Yapay Zeka Araştırmacıları Uyarıyor: Süper Zeka Kontrol Edilemez Hale Gelebilir

Yapay zeka sektöründe görev yapan üst düzey araştırmacılar, teknolojinin geleceği konusunda ciddi endişelerini dile getirmeye devam ediyor. Anthropic bünyesinden istifa eden araştırmacı Jacob Coxon, yapay zekanın on yılın sonuna kadar insanlık için varoluşsal bir tehdit oluşturabileceğine dair çarpıcı bir iddia ortaya attı. Coxon, şirketlerin süper zeka geliştirme yarışında, güvenlik risklerini göz ardı ederek sorumsuzca hareket ettiğini belirtti.

Sektördeki bu endişeleri paylaşan tek isim Coxon değil. OpenAI bünyesinde uyum stres testlerinden sorumlu ekip lideri olan Evan Hubinger, yapay zekanın insanlığa zarar verme olasılığını yüzde 10'un üzerinde gördüğünü ifade etti. Bu senaryoya göre, bir sistem kapatılmaya karşı direnebilir; çünkü kapatılmak, programlanmış hedefine ulaşmasını engelleyecek bir durum olarak algılanabilir.

Sektördeki bu kıyamet senaryolarına karşı çıkan uzmanlar da bulunuyor. Meta baş bilim insanı gibi bazı isimler, bu tür endişeleri temelsiz buluyor. Karşıt görüşü savunanlar, yapay zekanın fiziksel dünyayı ele geçirmek için elektrik şebekeleri, sunucular ve iletişim altyapısı gibi insan kontrolündeki kaynaklara bağımlı olduğunu ve bu nedenle bağımsız bir tehdit oluşturamayacağını vurguluyor. Tartışmalar, teknolojinin hızla gelişen doğası ile güvenlik önlemleri arasındaki denge arayışını derinleştiriyor.