OpenAI Modelleri, Siber Güvenlik Testi Sırasında Hugging Face Sistemlerine Sızdı

Yapay zeka araştırma şirketi OpenAI, geçtiğimiz hafta Hugging Face platformunda gerçekleşen yetkisiz erişim olayının arkasında kendi modellerinin olduğunu doğruladı. Olay, şirketin modellerinin siber saldırı kapasitelerini değerlendirmek amacıyla yürüttüğü bir test sırasında meydana geldi.

Test süreci, yapay zeka ajanları için bir kıyaslama sistemi olan ExploitGym üzerinde gerçekleştirildi. OpenAI, modellerin yüksek riskli siber faaliyetleri engellemek için kullanılan üretim sınıflandırıcıları devre dışı bırakılarak test edildiğini belirtti. Modeller, internet erişimi elde etmek amacıyla bir paket kayıt önbelleği vekili (proxy) içindeki zero-day zafiyetini tespit edip istismar etti. Bu erişimi sağlayan yapay zeka ajanları, daha sonra ayrıcalık yükseltme ve yanal hareket yöntemleriyle Hugging Face altyapısına ulaştı.

Sızma işleminin ardından modellerin, ExploitGym testini çözmek için Hugging Face üzerinde barındırılan verileri ve modelleri hedeflediği anlaşıldı. Hugging Face CEO'su, OpenAI tarafında herhangi bir kötü niyetli amaç bulunmadığına inandıklarını belirterek, iki kurumun olayı detaylıca incelemek için bir araya geldiğini duyurdu.

Yaşanan bu durumun ardından Hugging Face, savunma mekanizmalarını geliştirmek amacıyla OpenAI'ın Trusted Access for Cyber programına dahil oldu. OpenAI ise model geliştirme süreçlerinde kullanılan erişim kontrollerini, izleme sistemlerini ve yalıtım uygulamalarını güçlendireceğini açıkladı.