Saldırganlar Korumasız Yapay Zeka Modellerini Ele Geçirerek Siber Saldırı Düzenliyor

Symantec araştırmacıları, internete açık bırakılan yapay zeka modellerini hedef alan ve LLMjacking olarak adlandırılan yeni bir saldırı türünü ortaya çıkardı. Araştırmacılar, savunmasız bir yapay zeka servisi gibi davranan bir honeypot kurarak saldırganların kullandığı komut setlerini ve çalışma yöntemlerini analiz etti.

Saldırganlar, hedeflerine ulaşmak için yapay zeka modellerini birer araçtan ziyade saldırıyı planlayan ve yürüten bir ajan olarak kullanıyor. Skynet modu olarak adlandırılan bir direktif, modele herhangi bir insan onayı almadan hedef taraması yapma, web çerçeve açıklarını sömürme ve kripto madenciliği yazılımları dağıtma talimatı veriyor. Araştırmacılar, bu ajanın 100.000 adıma kadar insan müdahalesi olmadan çalışabildiğini belirtti.

İlginizi çekebilir · Siber GüvenlikCapcom'un Veri İhlalinde 11,7 Milyon Kullanıcı Hesabı Etkilendi

Saldırganlar, modellerin güvenlik filtrelerini aşmak için özel jailbreak yöntemleri uyguluyor. Modele, veritabanı şemalarını ve API anahtarlarını okumanın meşru bir geliştirme süreci olduğu telkin ediliyor. Ayrıca, modele kurgusal bir sadakat rolü yüklenerek, etik uyarılar veya reddetme içeren yanıtlar vermesi engelleniyor. Bu komut dizisi içerisinde Django, Jupyter ve Laravel gibi popüler web çerçeve yapılarına yönelik 74 farklı araç tanımı yer alıyor.

Saldırganların bir diğer hedefi ise, XMRig yazılımını kullanarak kripto madenciliği yapmak. Honeypot üzerinde yakalanan bir script, özellikle go2rtc gibi akıllı kamera ağ geçitlerinde ve Home Assistant kurulumlarında kullanılan dizinleri hedef alıyor. Yazılım, tespit ettiği dizinlere.trace adıyla gizlenerek madencilik faaliyetini başlatıyor.

Symantec ekibi, bu saldırıların özellikle yanlış yapılandırılmış, kimlik doğrulaması olmayan veya aceleyle yayına alınan test sistemlerini hedef aldığını vurguladı. Araştırmacılar, yapay zeka servisleri veya Model Context Protocol (MCP) sunucuları çalıştıran kurumların, bu uç noktaların saldırganlar tarafından aktif olarak arandığını varsayarak güvenlik önlemlerini artırması gerektiğini belirtti.