OWASP, 2026 Yapay Zeka Güvenlik Listesini Gerçek Dünya Verileriyle Güncelledi
OWASP GenAI Güvenlik Projesi, dil modelleri kullanan uygulamalara yönelik 2026 LLM Top 10 listesini yayınladı. Geçmiş yıllarda tamamen uzman görüşlerine dayanan bu liste, ilk kez 6 bin 639 gerçek dünya güvenlik olayından elde edilen verilerle güncellendi. Listenin oluşturulmasında uzman oyları yüzde 75, gerçek olay verileri ise yüzde 25 ağırlığa sahip oldu.
Prompt Injection ve Sensitive Information Disclosure (Hassas Bilgi İfşası), listedeki ilk iki sırayı korumaya devam ediyor. Prompt Injection, kaydedilen başarılı saldırı sayısının azlığına rağmen zirvede yer alıyor; OWASP bunu bir savunma etkisi olarak tanımlıyor. Kurumların bu saldırı türüne karşı yoğun önlemler alması, saldırıların kamuya açık veritabanlarına yansımasını zorlaştırıyor.
Yanlış bilgilendirme riski, uzman oylarında alt sıralarda yer almasına rağmen gerçek olay verilerinin etkisiyle listede iki basamak birden yükseldi. Uzmanlar, modern sistemlerde model çıktılarının kod üretimi, araç kullanımı ve yetkilendirme süreçlerini yönettiğini, bu nedenle yanlış bilginin finansal kayıplara ve operasyonel kesintilere yol açan bir sistem arızasına dönüştüğünü vurguluyor. Excessive Agency (Aşırı Yetkilendirme) ise yapay zeka sistemlerine kendi başlarına hareket etme yetkisi verilmesi nedeniyle üçüncü sıraya yerleşti.
Proje liderleri, modellerin kandırılmasının kaçınılmaz olduğunu belirterek, geliştiricilere sistemlerini bu gerçeğe göre tasarlamalarını tavsiye ediyor. Blast-radius control olarak adlandırılan bu yaklaşım, model kandırıldığında sistemin kritik bölümlerinin zarar görmemesini hedefliyor. Ayrıca, modelin araç çağırma veya bellek yönetimi gibi aktif roller üstlendiği durumlarda, risklerin OWASP Agentic Top 10 listesi kapsamına girdiği belirtiliyor.
