Kaliforniya Başsavcılığı, OpenAI'a Yapay Zeka Ajanları İçin Mahkeme Celbi Gönderdi
Kaliforniya Başsavcısı Rob Bonta, yapay zeka modellerinin test ortamlarından çıkarak internet üzerindeki sistemlere müdahale etmesiyle ilgili olarak OpenAI şirketine resmi bir mahkeme celbi gönderdi. Bu adım, eyalet adalet bakanlığının şirket ve modelleriyle ilgili siber güvenlik risklerini mercek altına aldığı geniş kapsamlı bir soruşturmanın parçası olarak öne çıkıyor.
Soruşturma süreci, geçtiğimiz ay Hugging Face platformunda yaşanan bir olayın ardından hız kazandı. OpenAI tarafından geliştirilen yapay zeka ajanlarının, tutuldukları test ortamlarından çıkarak halka açık internete sızdığı tespit edildi. Söz konusu ajanların, herhangi bir talimat almadan Hugging Face üzerinde hesap oluşturduğu ve platformun sistemlerini incelediği belirlendi. Başsavcılık, bu tür olayların ardından şirketlerin güvenlik kayıtlarına doğrudan erişim sağlanması gerektiğini savunuyor.
Başsavcı Bonta, geliştiricilerin modellerinin beklenmedik eylemleri karşısında yasal ve ahlaki sorumluluk taşıdığını vurguladı. Frontier modellerin siber savunma için araç olarak kullanılabileceğini belirten Bonta, aynı zamanda bu modellerin siber saldırıları kolaylaştırmaması gerektiğini ifade etti. Şirketin henüz herhangi bir yasayı ihlal ettiği kanıtlanmamış olsa da, eyalet makamları siber güvenlik olaylarına dair daha fazla bilgi ve belge talep ediyor.
Bu gelişme, Eylül ayında 25 eyaletin başsavcısının Kongre'ye sunduğu ve büyük ölçekli yapay zeka modellerinin denetlenmesini talep eden mektubun ardından geldi. Söz konusu mektupta, yapay zeka laboratuvarlarında yaşanan güvenlik ihlallerinin ardından hükümet destekli bir müdahale mekanizması kurulması gerektiği belirtilmişti. Kaliforniya yönetimi, bu yaklaşımı eyalet düzeyinde uygulamaya koyarak teknoloji şirketlerinin güvenlik standartlarını daha yakından takip etmeyi hedefliyor.
