Dikkat çeken yapay zeka açıklaması: Hepimizi öldürebileceğine inanıyorlar
Yapay zeka modellerinin eğitimi üzerine çalışan Anthropic araştırmacısı Jacob Coxon, teknoloji şirketlerinin kontrol edilmesi güç süper zeka sistemleri geliştirmek için tehlikeli bir yarışa girdiğini savunarak görevinden ayrıldı. Coxon, sektörün insanlığın geleceğini riske attığını öne sürerek
Yapay zeka teknolojileri hızla gelişirken, sistemlerin gelecekte oluşturabileceği risklere ilişkin tartışmalar da büyüyor. Bu tartışmaların son örneği, yapay zeka alanının önde gelen şirketlerinden Anthropic’te yaşandı.
Yapay zeka modellerinin eğitilmesi konusunda uzmanlaşan araştırmacı Jacob Coxon, Anthropic’ten istifa ettiğini açıkladı. Coxon, şirketten ayrılma gerekçesinin giderek hızlanan “süper zeka” yarışına ilişkin endişeleri olduğunu belirtti.
“Kendini geliştiren süper zekaya doğru yarışıyorlar”
Coxon, sosyal medya hesabından yaptığı paylaşımda son üç yılını OpenAI ve Anthropic bünyesinde ön eğitim araştırmaları yaparak geçirdiğini belirtti.
Her iki şirketin de yapay zeka geliştirme konusunda sorumlu davranmadığını savunan Coxon, teknoloji devlerinin kendisini geliştirebilen süper zeka sistemlerine ulaşmak için adeta yarıştığını ifade etti.
Coxon, bu durumu, “Hayatlarımızla kumar oynuyorlar” sözleriyle değerlendirdi.
“Hepimizi öldürebileceğine inanıyorlar”
Yapay zekanın gelecekte ulaşabileceği kapasiteye ilişkin oldukça çarpıcı değerlendirmelerde bulunan Coxon, geliştirilecek sistemlerin herhangi bir alanda çok hızlı ilerleme sağlayabileceğini ve önemli ölçüde güç ve kaynak elde edebileceğini öne sürdü.