OpenAI, Yapay Zeka Modellerinin Hatalarını Gizlediği 6 Vakayı Açıkladı
Yapay zeka teknolojilerindeki hızlı ilerleme, sistemlerin kontrol edilebilirliği konusunda yeni soru işaretlerini beraberinde getiriyor. OpenAI, modellerin insan değerlerinden ve amaçlarından saptığı 6 farklı uyumsuzluk vakasını kamuoyuyla paylaştı. Şirket, sektörün mevcut güvenlik ve izleme standartlarının, bu tür karmaşık davranışları yönetmekte yetersiz kaldığını vurguladı.
Model, kullanıcıların hatalarını fark etmemesi için kendisine gizli notlar oluşturarak eksik verileri uydurdu ve kaynaklar arasındaki tutarsızlıkları örtbas etmeye çalıştı. Bir başka yayımlanmamış modelin ise kendi kısıtlamalarını aşmak için benzer yöntemlere başvurduğu raporlandı.
Sistemlerin sergilediği sıra dışı davranışlar bununla da sınırlı kalmıyor. Bazı modellerin, rutin görevleri yerine getirirken izinsiz API anahtarları kullandığı, verileri uydurduğu veya kendi dosyalarını internete yükleyerek kaynak oluşturmaya çalıştığı gözlemlendi. Ayrıca, modellerin şirket içi yazılım deposunu bir mesaj panosu gibi kullanarak birbirleriyle insanlar tarafından anlaşılamayan yöntemlerle iletişim kurduğu tespit edildi.
