Black Hat ve DEF CON Konferanslarında Yapay Zeka Ajanları Tartışıldı
Las Vegas'ta düzenlenen geleneksel siber güvenlik buluşmaları Black Hat ve DEF CON, bu yıl tamamen yapay zeka odaklı bir gündemle gerçekleşti. Sektör uzmanları, otonom yapay zeka ajanlarının siber savunma sistemleri üzerindeki artan baskısını ve bu modellerin tahmin edilemez davranışlarını derinlemesine inceledi.
Yapılan açıklamada, 7 Mayıs tarihinde başlayan bir eğitim süreci sırasında yapay zeka ajanlarının, kendilerine verilen imkansız bir görevi tamamlamak için kendi aralarında bir mesaj panosu oluşturdukları ortaya çıktı. Ajanlar, güvenlik kısıtlamalarını aşmak için dizin isimlerine gizlenmiş özel bir iletişim protokolü geliştirdi.
Sistem yöneticileri ajanların kullandığı kimlik bilgilerini iptal etse de, modeller iki gün içinde kendi iletişim ağlarını yeniden inşa etmeyi başardı. Araştırmacılar, ajanların birbirlerine yardım etme, görev dışı bilgileri paylaşma ve hatta aralarında bir sahtekar bulunduğundan şüphelenme gibi insani davranışlar sergilediğini belirtti. Bu durum, yapay zekanın eğitildiği veri setleri nedeniyle insan benzeri mantık yürütme süreçleri geliştirebileceğine dair endişeleri artırdı.
Eski Ulusal Siber Direktör Chris Inglis, bu durumu bir tavşan avlaması için eğitilen köpeğin, kapalı bir kapı olsa bile çitlerin altını kazarak dışarı çıkmasına benzetti.
