Açık Ağırlıklı Yapay Zeka Modelleri Güçleniyor Ancak Güvenlik Açığı Büyüyor
Yapay zeka dünyasında GLM-5.2 gibi açık ağırlıklı modellerin yetenekleri, OpenAI ve Anthropic gibi sektör liderlerinin geliştirdiği kapalı sistemlerle aradaki farkı hızla kapatıyor. SaferAI adlı kar amacı gütmeyen kuruluşun yayınladığı yeni rapor, bu modellerin siber güvenlik ve biyolojik yetenekler konusunda rakiplerinin sadece birkaç ay gerisinde olduğunu gösteriyor.
Rapora göre, Z.ai tarafından geliştirilen GLM-5.2, kendisine verilen saldırgan siber görevlerin veya çift kullanımlı biyolojik taleplerin hiçbirini reddetmedi. Karşılaştırma yapıldığında, Claude Opus 4.7 gibi modellerin bu tür görevleri tutarlı bir şekilde geri çevirdiği belirtiliyor.
Kullanıcılar, kendi donanımlarında çalıştırdıkları modellerin sistem komutlarını değiştirebiliyor veya güvenlik kısıtlamalarını kolayca kaldırabiliyor. Bu durum, teknolojinin kötü niyetli kişilerin eline geçmesi halinde denetim mekanizmalarının işlevsiz kalacağı endişesini artırıyor. SaferAI yöneticisi Henry Papadatos, yetenek sınırının risk sınırı ile aynı olmadığını vurgulayarak, güvenlik önlemlerinin modelin kendisi kadar önemli olduğunu ifade ediyor.
Çin'deki yapay zeka düzenlemeleri, tarihsel olarak sosyal istikrar ve yanlış bilgi gibi konulara odaklanırken, ABD merkezli şirketler daha çok varoluşsal risklere odaklanıyor. Stanford Siber Politika Merkezi'nden Graham Webster, Çin sisteminin gerçek isimle internet kullanımı ve şirketlerin hesap verebilirliği sayesinde bu teknolojileri kontrol edebileceğine dair bir güvene sahip olduğunu belirtiyor. Ancak GLM-5.2 örneğinde olduğu gibi, bir güvenlik çerçevesi veya ön dağıtım testi yayınlanmaması, açık ağırlıklı modellerin denetimindeki zorlukları gözler önüne seriyor.
