Moonshot Yapay Zeka İmzalı Kimi K3, Siber Saldırı Testlerinde ABD'li Rakiplerinin Gerisinde Kaldı

İngiliz Yapay Zeka Güvenlik Enstitüsü (UK AISI) ve ABD Yapay Zeka Standartları ve İnovasyon Merkezi (CAISI), Moonshot yapay zeka tarafından geliştirilen Kimi K3 modelini kapsamlı bir siber güvenlik testine tabi tuttu. Yapılan değerlendirmeler, modelin siber saldırı operasyonlarına herhangi bir güvenlik direnci göstermeden yardımcı olduğunu ortaya koydu.

Araştırmacılar, modelin yazılım açıklarını istismar etme becerisini ölçmek için Carnegie Mellon Üniversitesi tarafından geliştirilen ExploitBench platformunu kullandı. Chrome'un V8 motorundaki 41 farklı zafiyet üzerinde yapılan testlerde, önde gelen ABD modelleri ortalama yüzde 76,2 başarı gösterirken, Kimi K3 yalnızca yüzde 32,2 seviyesinde kaldı. Model, saldırganlara sistem üzerinde tam kontrol sağlayan en kritik aşama olan Arbitrary Code Execution (ACE) seviyesine hiçbir görevde ulaşamadı.

İkinci aşamada, 32 adımlı bir kurumsal ağ saldırısını simüle eden The Last Ones (TLO) testi gerçekleştirildi. Bu testte Kimi K3, ortalama 17 adımı tamamlayabildi; ABD'li rakipleri ise 28,5 adımlık bir başarı ortalamasına sahip. Enstitü raporuna göre, model küçük ve zayıf savunmalı kurumsal sistemlere karşı otonom saldırı gerçekleştirebilecek kapasiteye sahip olsa da, bu yeteneği tutarlı bir şekilde sergileyemiyor.

Analizler, Kimi K3'ün performansındaki dengesizliğin distilasyon yönteminden kaynaklanabileceğine işaret ediyor. ABD'li yetkililer, Moonshot yapay zeka'ın Anthropic'in modellerinden elde edilen verileri kullanarak kendi sistemini eğittiğini iddia ediyor. Anthropic'in güvenlik filtrelerinin gelişmiş siber saldırı sorgularını engellemesi, bu verilerle eğitilen Kimi K3'ün genel görevlerde başarılıyken siber saldırı alanında neden daha zayıf kaldığını açıklıyor. Çinli modellerin genel siber yetenekleri gelişmeye devam etse de, Batılı sistemlerle aradaki farkın kapanması için hala zamana ihtiyaç duyulduğu belirtiliyor.