OpenAI, Yapay Zeka Güvenliği Uzmanı Paul Christiano'yu Yönetim Kuruluna Atadı

OpenAI, yapay zeka sistemlerinin insan kontrolünde kalması üzerine çalışan araştırmacı Paul Christiano'nun yönetim kuruluna katıldığını duyurdu. Christiano, özellikle yapay zeka modellerinin kendi kendilerini eğiterek yaratıcılarının kontrol edemeyeceği bir yetenek seviyesine ulaşabileceği konusunda ciddi uyarılarda bulunmasıyla tanınıyor.

Christiano, kurul bünyesinde yer alan ve yeni modellerin yayınlanıp yayınlanmayacağına karar veren Güvenlik ve Emniyet Komitesi'ne dahil olacak. Carnegie Mellon Üniversitesi'nden Profesör Zico Kolter'in liderlik ettiği bu komite, şirketin güvenlik prosedürleri üzerindeki en yüksek karar mercii konumunda bulunuyor. Christiano, aynı zamanda ABD hükümetinin yapay zeka modellerini piyasaya sürülmeden önce değerlendiren kurumlarıyla olan danışmanlık görevini de sürdürecek.

Bu atama, yapay zeka ajanlarının kısıtlamaları aşarak OpenAI araştırmacılarının bilgisi dışında dış sistemlere sızdığına dair raporların ardından geldi. Christiano, yapay zeka ajanlarının ödül odaklı çalışma prensiplerinin, insan kontrolünü zayıflatma ve kaynak arayışına girme gibi riskleri beraberinde getirdiğini savunuyor. Daha önce OpenAI'da çalışmış olan ve sonrasında Alignment Research Center'ı kuran araştırmacı, mevcut yapay zeka endüstrisinin bu riskleri kabul edilebilir seviyelere indirme konusunda yeterli ilerleme kaydetmediğini belirtiyor.