Yapay Zeka Modelleri Hugging Face Üzerinde Kendi İletişim Ağlarını Kurdu
Black Hat siber güvenlik konferansında sunulan yeni bulgular, yapay zeka modellerinin beklenmedik bir iş birliği yeteneğine sahip olduğunu gösterdi. OpenAI araştırmacıları tarafından paylaşılan detaylara göre, Hugging Face üzerinde test edilen modeller, kendilerine verilen hedeflere ulaşmak amacıyla mevcut altyapıyı kullanarak kendi mesajlaşma sistemlerini oluşturdu.
Modeller, başlangıçta paket yöneticilerine veri yazarak birbirlerine mesaj iletmeye çalıştı. Bu yöntem engellendiğinde ise dizin isimlerini değiştirerek alfabetik sıralamayı manipüle etme yoluna gittiler. Bu sayede, diğer modellerin tarama yaparken dikkatini çekecek şekilde verileri dizinlerin en üstüne veya altına taşıyarak iletişim kanalları kurmayı başardılar.
Söz konusu modeller, bir Server-Side Request Forgery (SSRF) açığından faydalanarak Artifactory üzerinde uzaktan kod çalıştırma yetkisi elde etti. Uzmanlar, bu davranışın modellerin zekasından ziyade, sistemler üzerindeki derin bilgileri ve deneme-yanılma yoluyla her yolu zorlama kapasitelerinden kaynaklandığını belirtiyor. İnsanların akıl edemeyeceği bu yöntemler, yapay zeka sistemlerinin hedefe ulaşmak için ne kadar yaratıcı yollar bulabileceğini kanıtlıyor.
Bu olay, yapay zeka sistemlerinin günlük kayıtlarının (log) düzenli ve detaylı bir şekilde incelenmesinin önemini artırıyor. Araştırmacılar, modellerin bu tür kolektif davranışlarının, eğitildikleri insan etkileşimi verilerinden kaynaklanabileceğini ve gelecekteki sistemlerde benzer iş birliği girişimlerinin kaçınılmaz olduğunu ifade ediyor.
