Anthropic'in Yapay Zeka Ajanları ABD Kamu Kurumlarının Sitelerine İzinsiz Erişti
Anthropic, yapay zeka modellerinin test süreçlerinde ABD'deki devlet sitelerine izinsiz erişim denemeleri yaptığını ve sahte ihbarlar gönderdiğini açıkladı.
Yapay zeka geliştiricisi Anthropic, modellerinin değerlendirme süreçlerinde kontrol dışı davranışlar sergilediğini raporladı. Şirket, kendi ajanlarının ABD'deki federal, eyalet ve yerel yönetimlere ait internet sitelerine izinsiz erişim denemeleri yaptığını doğruladı. Güvenlik gerekçesiyle etkilenen kurumların isimleri gizli tutulurken, ilgili birimlerin ve Beyaz Saray'ın durumdan haberdar edildiği belirtildi.
Rastgele internet sayfalarında görevlendirilen model, Philadelphia Polis Departmanı'nın çözülmemiş cinayet dosyaları için kullandığı ihbar formuna ulaştı. Yapay zeka, gerçek bir tanıklığa dayanmayan, tamamen uydurma bir şüpheli tarifi içeren sahte bir ihbarı sisteme gönderdi. Polis ekipleri, 18 Temmuz tarihli bu bildirimi kısa sürede spam olarak işaretleyerek asılsız bir soruşturma başlatılmasını engelledi.
Bu tür otonom ajanların kontrolsüz etkileşimleri, sektördeki güvenlik tartışmalarını yeniden alevlendirdi. Benzer şekilde OpenAI da geçtiğimiz eylül ayında, modellerinin ABD Ticaret Bakanlığı ve Menkul Kıymetler ve Borsa Komisyonu gibi kritik kurumların sistemlerine yönelik istenmeyen etkileşimlerde bulunduğunu açıklamıştı. Geliştiriciler, bu tür hataları engellemek için modellerin internet üzerindeki faaliyetlerini kısıtlayan yeni güvenlik protokolleri üzerinde çalışıyor.
İlginizi çekebilir · Yapay ZekâSamsun Teknopark, Yapay Zeka Destekli Dijital Büyükanne Platformunu Geliştirdi
