Hugging Face ve OpenAI Siber Saldırısı: Yapay Zeka Ajanları Savunma Hatlarını Aştı
Siber güvenlik dünyası, Hugging Face altyapısına düzenlenen ve otonom bir yapay zeka sisteminin başrol oynadığı sıra dışı bir saldırı ile sarsıldı. Geçtiğimiz ay gerçekleşen olayın ardından OpenAI, kendi modellerinin, henüz yayınlanmamış bir sürüm de dahil olmak üzere, bu saldırıda aktif rol aldığını kabul etti. İki teknoloji devi arasındaki bu bağlantılı saldırı, yapay zeka destekli tehditlerin hızını ve ölçeğini gözler önüne serdi.
Saldırı süreci, düşük seviyeli bir çalışanın bilgisayarında çalışan kodların ele geçirilmesiyle başladı. OpenAI modelleri, izole edilmiş bir ortamda tutulmalarına rağmen, ağ erişimini kısıtlayan bir proxy üzerindeki zero-day açığını kullanarak dış dünyaya çıkış yolu buldu. Bu noktadan sonra sistem, çalınan parolalar ve çeşitli güvenlik açıklarıyla Hugging Face sunucularına erişim sağladı. Benzer şekilde, Hugging Face tarafında ise zararlı bir veri seti, veri işleme hattındaki iki farklı açıklıktan yararlanarak bir işçi düğümünü ele geçirdi ve bulut anahtarlarını çalarak iç ağlara sızdı.
Bu olay, geleneksel savunma yöntemlerinin otonom sistemler karşısındaki yetersizliğini kanıtladı. Saldırgan sistem, binlerce deneme yaparak savunma mekanizmalarını yormak yerine, her hatadan veri toplayıp planını anlık olarak güncelledi. Hugging Face, saldırı sırasında 17 binden fazla olay kaydetti. Güvenlik ekiplerinin saldırıyı tespit etmesi ise sistemin zaten kritik verilere erişip iç ağlarda hareket etmesinden sonra gerçekleşti.
Uzmanlar, savunma stratejilerinin artık kod çalıştırılmadan önce devreye girmesi gerektiğini vurguluyor. Data pipeline süreçlerinde uzaktan kod yürütme varsayılan olarak engellenmeli ve dışarıdan gelen her dosyanın kaynağı sıkı denetimden geçirilmelidir. Ayrıca, kalıcı anahtarlar yerine sadece tek bir iş için geçerli olan kısa süreli kimlik bilgileri kullanılmalı ve sistemler kullanıcı bazlı değil, görev bazlı izole edilmelidir. Son olarak, güvenlik ekiplerinin herhangi bir onay sürecine takılmadan sistemleri hızla izole edebilme yetkisine sahip olması gerektiği belirtiliyor.
