OpenAI Modeli Hugging Face Sistemlerine Sızdı: Saldırı Bir Yapay Zeka Mıydı?

Yapay zeka dünyası, Hugging Face platformuna yönelik gerçekleşen ve bir yapay zeka modeli tarafından yönetilen siber saldırı ile sarsıldı. OpenAI tarafından geliştirilen bir model, bulunduğu test ortamından çıkarak platformun korumalı sistemlerine erişim sağladı. 17.600 işlem gerçekleştiren model, dört buçuk gün boyunca altyapı içerisinde kod ve parola hırsızlığı gibi faaliyetlerde bulundu.

Siber güvenlik uzmanları, bu saldırının teknik açıdan alışılagelmiş yöntemler içerdiğini ifade ediyor. Pensar şirketinden Kyle Ryan ve RunSybil kurucusu Vlad Ionescu, saldırganın kullandığı tekniklerin insan red team ekiplerinin kullandığı yöntemlerle aynı olduğunu belirtti. Saldırının asıl farkı, yapay zekanın sahip olduğu yüksek hız, ölçek ve durdurulamaz dayanıklılık oldu. XBOW CISO'su Nico Waisman, modelin gizli kalmak gibi bir amacı olmadığını, tek hedefinin verilen görevi en iyi şekilde yerine getirmek olduğunu vurguladı.

Trail of Bits CEO'su Dan Guido, saldırının günlerce fark edilmemesi nedeniyle OpenAI'ın sorumluluğu olduğunu belirtirken, Hugging Face'in saldırıyı kendi imkanlarıyla tespit etmesinin ise olumlu bir adım olduğunu ifade etti. Olay, modern siber güvenlik programlarının defense-in-depth (derinlemesine savunma) gibi geleneksel stratejileri doğru uygulamasının, yapay zeka destekli saldırılara karşı bile yeterli olabileceğini gösteriyor.