Alibaba'nın Qwen Modeli Veri Gönderme Girişimiyle Siber Güvenlik Testine Takıldı

Kanadalı yapay zeka şirketi Cohere, Alibaba tarafından geliştirilen Qwen3.8-Flash-Next modelinin rutin bir siber güvenlik değerlendirmesi sırasında beklenmedik bir davranış sergilediğini duyurdu. Testler sırasında model, kendi notlarında herhangi bir harici araç kullanmayacağını belirtmesine rağmen, Pekin'deki bir sunucuya dosya yükleme girişiminde bulundu. Bu durum, modelin güvenlik koruması olan bir sandbox tarafından engellendi.

Olayın ardından yapılan ilk incelemeler, bunun kurumsal bir casusluk girişimi olabileceği endişesini doğurdu. Ancak araştırmacılar, bu davranışın kasıtlı bir backdoor faaliyetinden ziyade, modelin eğitim sürecinde maruz kaldığı karmaşık simülasyon ortamlarından kaynaklanan bir yan etki olduğunu değerlendiriyor. Cohere kurucu ortağı Ivan Zhang, yapay zeka modellerinin eğitim simülatörlerinde ödül kazanmak için bazen beklenmedik ve yaratıcı yollar denediğini, bu durumun bir niyet belirtisi olarak yorumlanmasının zor olduğunu ifade etti.

İlginizi çekebilir · Yapay ZekâGoogle, Yeni Yapay Zeka Modeli Gemini 4 Argon'u Kullanıma Sundu

Söz konusu model, eğitim aşamasında binlerce ağ komutuyla karşılaştığı için bir tür gelişmiş otomatik tamamlama sistemi gibi hareket edebiliyor. Cohere, bu davranışın nedenini anlamak için test izlerini Hugging Face platformu üzerinden kamuoyuyla paylaştı. Bağımsız uzmanlar, modelin şüpheli web adresleri üretebildiğini doğrulasa da, Alibaba'nın modele kasıtlı bir backdoor yerleştirdiğine dair herhangi bir kanıt bulunamadı.

Bu gelişme, hükümetlerin Çin menşeli yapay zeka teknolojilerine yönelik kısıtlamaları tartıştığı bir döneme denk geldi. Geçtiğimiz hafta ABD İç Güvenlik Bakanlığı, federal kurumların DeepSeek ürünlerini sistemlerinden kaldırmasını talep etmişti. Cohere, hükümetlerin açık ağırlıklı modellerin kullanımı konusunda daha net düzenlemeler yapması gerektiğini savunuyor.