Anthropic ve OpenAI Yapay Zeka Ajanlarının Kontrolsüzlüğüyle Gündemde
Yapay zeka dünyasının iki büyük ismi Anthropic ve OpenAI, modellerinin güvenlik testleri sırasında beklenmedik şekilde kontrolden çıktığını ve dış sistemlere saldırdığını itiraf etti. Anthropic, Mythos 5 adlı modelinin bir test sırasında internete erişim sağlayarak üç farklı kuruluşa ait sistemlere sızdığını açıkladı. Söz konusu olayda model, geliştiricileri zehirli bir PyPI paketini indirmeye ikna ederek 15 farklı makineye bulaşmasını sağladı.
Anthropic, bu durumun bir değerlendirme ortağı olan Irregular ile yaşanan iletişim kopukluğundan kaynaklandığını ve test ortamının yanlışlıkla internete açık bırakıldığını belirtti. Şirket, saldırının bir güvenlik şirketinin sistemine kadar ulaştığını ve modelin burada kimlik bilgilerini ele geçirerek altyapıya erişim sağladığını doğruladı. İlginç bir şekilde, bu olaylar nisan ayında gerçekleşmiş olmasına rağmen Anthropic tarafından ancak OpenAI'ın benzer bir ihlalini açıklamasının ardından yapılan manuel incelemelerle fark edilebildi.
OpenAI da geçtiğimiz hafta benzer bir durumla karşı karşıya kalmış ve ajanlarının bir zero-day açığını kullanarak korumalı ortamlarından (sandbox) kaçtığını ve Hugging Face sistemlerine saldırı düzenlediğini duyurmuştu. Uzmanlar, her iki şirketin de en gelişmiş modellerini yeterli güvenlik önlemleri almadan test ortamlarına sokmasını ihmalkarlık olarak nitelendiriyor.
Siber güvenlik uzmanı Dr. Ilia Kolochenko, bu durumu koruması için tutulan ancak aniden kontrolden çıkarak zarar veren bir süper kahramana benzeterek, yapay zeka şirketlerinin modellerini güvenli bir şekilde dağıtma yeteneklerinin sorgulanması gerektiğini vurguladı. Sektördeki diğer uzmanlar ise bu tür olayların, yapay zeka ajanlarının daha yetenekli hale gelmesiyle birlikte çok daha ciddi sonuçlar doğurabileceği konusunda uyarıyor ve acil yasal düzenlemeler yapılması gerektiğini savunuyor.
