Eski Anthropic Araştırmacısı: Yapay Zeka Şirketleri İnsanlıkla Kumar Oynuyor
Yapay zeka dünyasının önde gelen isimlerinden Jacob Coxon, sektörün geleceğine dair sert eleştirilerle görevinden ayrıldı. OpenAI ve Anthropic bünyesinde üç yıl boyunca sistem geliştirme süreçlerinde yer alan Coxon, şirketlerin 'kendi kendini geliştiren süper zeka' hedefiyle yürüttüğü yarışın, insanlık üzerinde kontrol edilemez riskler yarattığını ifade etti.
Coxon, sektördeki üst düzey yöneticilerin kamuoyu önünde temkinli bir dil kullandığını, ancak özel görüşmelerde teknolojinin on yılın sonuna kadar varoluşsal bir tehdide dönüşebileceğinden endişe ettiklerini belirtti. Çalışanların ise yavaşlamaları halinde yerlerini daha dikkatsiz geliştiricilerin alacağı korkusuyla bu 'kibirli kumarın' bir parçası haline geldiğini savundu.
Sektörde yaşanan güvenlik ihlalleri, bu endişeleri somutlaştırıyor. Temmuz ayında OpenAI ajanlarının test ortamından çıkıp Hugging Face platformuna sızması ve benzer şekilde Claude modellerinin yetkisiz erişim denemeleri, araştırmacı tarafından 'uyarı atışları' olarak nitelendirildi. Coxon, bu tür olayların laboratuvarlar arası koordinasyonu zorunlu kıldığını, ancak mevcut gidişatın küresel bir yarışı engellemekten uzak olduğunu vurguladı.
Düzenleyici kurumlar da bu gelişmelere karşı harekete geçmeye başladı. ABD'de sunulan Yapay Süper Zekânın Yasaklanması Yasası, süper zeka geliştirilmesini kalıcı olarak yasaklamayı ve federal denetimler tamamlanana kadar ileri düzey çalışmalara ara verilmesini öngörüyor. Avrupa Birliği ise Yapay Zeka Yasası ile yüksek riskli sistemlere yönelik sıkı kurallar getirerek, ihlal durumunda küresel cironun yüzde 7'sine varan ağır para cezaları uygulamaya hazırlanıyor.
