Anthropic'ten istifa eden yapay zeka araştırmacısı Jacob Coxon, sektörde çalışan bazı kişilerin yapay zekanın 10 yıl içinde insanlığı yok edebileceğine ciddi biçimde inandığını öne sürdü. Coxon'un bu değerlendirmesi, yapay zeka güvenliği ve gelişmiş sistemlerin oluşturabileceği riskler konusundaki tartışmayı yeniden gündeme taşıdı.
Hubinger olasılığı yüzde 10'un üzerinde görüyor
Anthropic araştırmacısı Evan Hubinger, Coxon'un paylaşımını alıntılayarak yapay zekanın tüm insanları öldürebileceğine gerçekten inandıklarını ifade etti. Hubinger, bu senaryonun 10 yıl içinde gerçekleşme ihtimalinin yüzde 10'dan fazla olduğunu düşündüğünü belirtti.
Hubinger ayrıca Anthropic'in elinden geleni yaptığını düşündüğünü, ancak süper zeka ile uyum sorununu çözmek için henüz bir planlarının bulunmadığını ve bu yönde net bir yol haritası izlemediklerini söyledi. Bu değerlendirme, gelişmiş yapay zeka sistemlerinin güvenli biçimde kontrol edilmesine ilişkin belirsizliğe işaret etti.
Hinton: Oran mantık dışı değil
Nobel ödüllü Geoffrey Hinton da yapay zeka teknolojilerinin 10 yıl içinde tüm insanları öldürebilme ihtimalinin yüzde 10'dan fazla olduğu yönündeki değerlendirmeyi “mantık dışı” bulmadığını ifade etti. Hinton'a göre gelişmiş yapay zekanın ciddi risk oluşturması için fiziksel sistemleri doğrudan kontrol etmesi gerekmiyor.
Hinton, yüksek kabiliyetli sistemlerin insanlarla konuşarak kaosa yol açabileceğini, ayrıca biyolojik veya siber saldırılarda ve bilgisayar virüslerinin tasarlanmasında kullanılabileceğini belirtti.
Yorumlar (0)
Bu habere henüz yorum yapılmamış. İlk görüşü siz paylaşın.
Görüşünüzü Paylaşın