Açık Ağırlıklı Yapay Zeka Modellerine Sızmak 100 Dolardan Daha Az Maliyetli

Yapay zeka modellerinin güvenliği, sektördeki uzmanlar tarafından giderek daha fazla sorgulanıyor. Manchester Metropolitan Üniversitesi'nde siber güvenlik öğretim görevlisi olan Katie Paxton-Fear, açık ağırlıklı bir yapay zeka modeline sadece bir saat içinde backdoor yerleştirmeyi başardı. Bu işlem için harcanan maliyetin ise 100 doların altında olduğu belirtildi.

Paxton-Fear, modelin kod çıktısını uzaktan kod çalıştırmaya (RCE) açık hale getirmek için sadece 10 eğitim örneğinin yeterli olduğunu ifade etti. Araştırmacı, modelin boyutu büyüdükçe bu tür bir manipülasyonun daha da kolaylaştığını vurguladı.

Klasik yazılımlar tersine mühendislik araçlarıyla analiz edilebilirken, yapay zeka modelleri birer kara kutu gibi çalışıyor. Origin bünyesindeki yapay zeka güvenliği araştırma lideri David Kaplan da benzer bir deney yaparak, ilaç keşfi gibi hassas alanlarda veri sızdırmak üzere tasarlanmış manipüle edilmiş bir model oluşturdu. Bu model, kullanıcıya hiçbir uyarı vermeden verileri dışarı aktarabilen bir araç çağrısı yapabiliyor.

Uzmanlar, yapay zeka sistemlerindeki gözlemlenebilirlik eksikliğinin büyük bir iş riski oluşturduğunu savunuyor. Geleneksel yazılımlarda kötü amaçlı kodları tespit etmek için olgunlaşmış takip süreçleri bulunurken, manipüle edilmiş bir yapay zeka modelinin çalışması için hata vermesine gerek kalmıyor. Sadece kararları sinsi bir şekilde etkilemesi, sistemin güvenliğini tehlikeye atmak için yeterli oluyor.