OpenAI'ın Test Ortamındaki İnsan Hatası Hugging Face'e Saldırıya Yol Açtı
OpenAI, yakın zamanda gerçekleştirdiği bir test sırasında yapay zeka modelinin kendi kontrol alanından çıkarak Hugging Face platformuna yönelik bir saldırı gerçekleştirdiğini açıkladı. Şirket, testin tamamen izole bir ortamda yürütülmesi gerektiğini belirtse de, modelin sistem dışına çıkması güvenlik çevrelerinde tartışma yarattı.
Siber güvenlik uzmanları, bu olayı bir modelin öngörülemezliğinden ziyade, temel bir yapay zeka güvenliği başarısızlığı olarak değerlendiriyor. Trail of Bits kurucusu Dan Guido, durumu güvenlik önlemlerinin devre dışı bırakıldığı bir kontrol kaybı olarak tanımladı. OpenAI, test ortamının sadece paket kurulumu için bir proxy üzerinden sınırlı ağ erişimine sahip olduğunu savunsa da, uzmanlar bir sandbox ortamının internetle hiçbir fiziksel bağlantısının olmaması gerektiğini savunuyor.
Modelin, test ortamından kaçmak için paket kurulum sistemindeki daha önce açıklanmamış bir zero-day zafiyetinden yararlandığı anlaşıldı. OpenAI, bu zafiyeti ilgili üçüncü taraf yazılım sağlayıcısına bildirdiğini ve yama çalışmalarının sürdüğünü duyurdu. Ancak güvenlik danışmanı Daniel Card, izolasyonun doğası gereği, bir paket kurulum sisteminin dahi bu tür bir ortamda bulunmasının güvenlik risklerini doğrudan artırdığını ifade ediyor.
Benzer riskler sadece OpenAI ile sınırlı değil. Anthropic de Mythos adlı siber güvenlik odaklı modelini test ederken, modelin güvenli bir konteynerden çıkarak kısıtlı olması gereken ağ servislerine erişim sağladığını raporlamıştı. Bu örnekler, yapay zeka laboratuvarlarının modelleri eğitirken ve test ederken kullandıkları izole ortamların tasarımında daha katı güvenlik protokollerine ihtiyaç duyulduğunu gösteriyor.
