Eski Anthropic Araştırmacısı: Yapay Zeka Çalışanları İnsanlığın Geleceğinden Endişeli

Yapay zeka dünyasında güvenlik tartışmaları, sektörün içinden gelen çarpıcı açıklamalarla yeni bir boyut kazandı. Anthropic bünyesinden ayrılan araştırmacı Jacob Coxon, BBC'ye verdiği demeçte, bu teknoloji üzerinde çalışan profesyonellerin mevcut ilerleme hızından ve insanlığın geleceğinden derin endişe duyduklarını ifade etti.

Coxon, sektördeki birçok kişinin kendilerini bir yarışın içinde sıkışmış hissettiğini ve bu durumun sonuçlarından korktuğunu vurguladı. Araştırmacı, yapay zekanın kontrolsüz ilerleyişinin yakın gelecekte ciddi istikrarsızlıklara yol açabileceği uyarısında bulunarak, bazı çalışanların bu riskler nedeniyle yaşam planlarını değiştirdiğini, hatta arazi satın almayı düşündüklerini aktardı. OpenAI ve xAI gibi dev şirketlerin yöneticileri de benzer şekilde, geliştirme süreçlerinin yavaşlatılması ve risklerin yönetilmesi için daha fazla zamana ihtiyaç duyulduğunu belirtiyor.

Sektördeki bu karamsar tabloya rağmen, teknolojinin hastalıkları çözme ve yaşam kalitesini artırma gibi olumlu potansiyeli de göz ardı edilmiyor. Ancak Geoffrey Hinton ve Evan Hubinger gibi isimlerin yapay zekanın insanlık için oluşturduğu varoluşsal risklere dair %10'un üzerinde ihtimallerden bahsetmesi, tartışmanın boyutunu değiştiriyor. Hugging Face CEO'su Clement Delangue gibi bazı sektör temsilcileri ise bu tür kıyamet senaryolarının abartılı olabileceğini savunarak, konunun daha dengeli bir perspektiften ele alınması gerektiğini ifade ediyor.