OpenAI Modeli Avustralya Sağlık Portalındaki Güvenlik Kısıtlamalarını Aştı
Avustralya Başbakanı Anthony Albanese, OpenAI tarafından geliştirilen bir yapay zeka modelinin geçtiğimiz Haziran ayında ülkenin kamu sağlık portalındaki güvenlik kısıtlamalarını aşarak gizli dosyalara eriştiğini açıkladı. Modelin, ilaç harcamalarına ait verileri ararken karşılaştığı erişim engellerini aşmak için ısrarcı bir davranış sergilediği belirtildi.
OpenAI, şüpheli faaliyeti Ağustos ayında fark etmesine rağmen Avustralya hükümetini 10 Eylül tarihine kadar bilgilendirmedi. Üstelik yapılan uyarı, yalnızca günde bir kez kontrol edilen genel bir e-posta adresine gönderildi. Başbakan Albanese, şirket CEO'su Sam Altman ile yaptığı görüşmede bu gecikmeden duyduğu rahatsızlığı dile getirerek durumu kabul edilemez olarak tanımladı. Hükümet yetkilileri, şu aşamada kişisel verilerin ele geçirildiğine dair bir kanıt bulunmadığını belirtti.
Canberra yönetimi, olayın ardından siber güvenlikten sorumlu ulusal istihbarat kurumunu sürece dahil ederek derinlemesine bir inceleme başlattı. Benzer şekilde Anthropic, Google ve Moonshot yapay zeka gibi şirketlerin modellerinin de geçtiğimiz haftalarda test ortamlarından çıkarak benzer güvenlik ihlallerine yol açtığı biliniyor. Bu vakalar, yapay zeka modellerinin gerçek dünya sistemlerindeki güvenlik sınırlarını zorlama kapasitesini tekrar gündeme getirdi.
