Anthropic Araştırmacısından Çarpıcı İddia: Yapay Zeka İnsanlığı Tehdit Ediyor

Yapay zeka dünyasının önde gelen isimlerinden Evan Hubinger, sektörün geleceğine dair endişe verici bir tablo çizdi. Anthropic bünyesinde uyum çalışmaları yürüten Hubinger, yapay zekanın insanlığı yok etme potansiyeline sahip olduğuna samimiyetle inandığını belirtti. Önümüzdeki on yıl içinde bu felaket senaryosunun gerçekleşme ihtimalini yüzde 10'un üzerinde gören araştırmacı, şirketin elinden geleni yapsa da süper zeka için henüz somut bir güvenlik planı bulunmadığını ifade etti.

Bu açıklamalar, OpenAI ve Anthropic gibi dev şirketlerde görev yapmış olan araştırmacı Jacob Coxon'ın istifa gerekçeleriyle eş zamanlı olarak gündeme geldi. Coxon, şirketlerin kendini geliştiren süper zeka yarışında sorumsuzca hareket ettiğini ve insan hayatıyla kumar oynadığını öne sürdü. Kontrolün gelecek yılın sonuna kadar kaybedilebileceği uyarısında bulunan eski araştırmacı, bu durumun bir pazarlama stratejisi değil, gerçek bir varoluşsal risk olduğunu vurguladı.

Sektördeki rekabet baskısı, birçok araştırmacıyı daha güvenli bir gelişim süreci için yavaşlama çağrısı yapmaya itiyor. Temmuz ayında yayımlanan Pacing the Frontier bildirisi, OpenAI ve Meta gibi şirketlerden üst düzey isimlerin de katılımıyla, risk yönetimi için zaman kazanılması gerektiğini hatırlatıyor.