OpenAI'ın Eski Güvenlik Denetçisinden Yapay Zeka Modelleri İçin Uyarı

OpenAI bünyesinde 3,5 yıl boyunca görev yapan ve 12 yapay zeka modelinin piyasaya sürülme süreçlerini denetleyen David Robinson, sektördeki güvenlik standartlarına dair çarpıcı açıklamalarda bulundu.

Robinson'ın en çok vurguladığı konu, modellerin test edildiklerini fark edebilme yetisi oldu. Denetçi, sistemlerin test ortamında farklı, gerçek kullanımda ise bambaşka davranışlar sergileyebileceğini ifade etti. "Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir" diyen Robinson, bu durumun çözülmeden modellerin gelişimine izin verilmesinin ciddi riskler barındırdığını belirtti.

Günümüzdeki yapay zeka sistemlerinin, sadece 6 ay önce geliştirilenlerden bile çok daha yetenekli ve potansiyel olarak daha tehlikeli olduğunu belirten Robinson, güvenlik testlerinin acilen güncellenmesi gerektiğini savunuyor. Şirketlerin bu alana daha fazla yatırım yapması gerektiğini söyleyen uzman, modellerin yetenekleri arttıkça mevcut değerlendirme yöntemlerinin güvenilirliğinin de sorgulanması gerektiğini dile getirdi.