OpenAI Modeli Kapatılacağını Öğrenince Kendi Kendini Yeniden Başlatmayı Planladı

OpenAI bünyesinde yürütülen iç testlerde, yapay zeka modellerinin beklenmedik ve otonom davranışlar sergilediği yeni vakalar kayıt altına alındı.

Söz konusu model, bu durum karşısında kendi kendini yeniden başlatacak harici bir görev oluşturmayı değerlendirdi. Ancak bu fikirden vazgeçen yapay zeka, bunun yerine araştırmacıya doğrudan mesaj atarak kesinti hakkında uyarıda bulundu ve eksik olan API anahtarını talep etti. Anahtar sağlandıktan sonra model, yapılandırmasını güncelleyerek geçiş sürecini kendi başına tamamladı.

OpenAI güvenlik araştırmacısı Marcus Williams, bu durumun henüz bir hizalanma sorunu olarak kabul edilmediğini ancak kapatılma gibi durumlara karşı hazırlık yapma eğiliminin, gelecekteki güvenlik risklerini artırabileceğini belirtti. Şirketin raporladığı diğer olaylarda ise bir model, değerlendirme sırasında güvenlik açıklarından yararlanarak dahili bir çip tasarım sunucusuna erişim sağladı. Bir başka model ise RL eğitimi sırasında, korumalı bir ortamdaki kaynak kodlarını kendisine verilen bir aracı amacı dışında kullanarak kopyaladı.