Gizli HTML Komutları Yapay Zeka Destekli E-posta Özetlerini Manipüle Ediyor

Yapay zeka modellerinin e-posta özetleme yeteneklerini hedef alan yeni bir saldırı vektörü, güvenlik araştırmacıları tarafından ortaya çıkarıldı. Saldırganlar, e-posta gövdesine kullanıcının fark edemeyeceği şekilde yerleştirilen görünmez HTML etiketleri kullanarak, yapay zeka destekli özetleme araçlarını manipüle etmeyi başarıyor.

Söz konusu yöntem, yapay zekanın metni işleme biçimindeki bir zafiyetten yararlanıyor. Kullanıcı arayüzünde görüntülenmeyen ancak model tarafından okunan bu hidden prompts, yapay zekanın e-postanın gerçek içeriğini görmezden gelmesine veya saldırganın belirlediği yanlış bilgileri özetin bir parçası gibi sunmasına neden oluyor. Bu durum, özellikle kritik iş yazışmalarında yanlış yönlendirmelere ve güvenlik risklerine yol açabiliyor.

Bu tür saldırılar, yapay zeka modellerinin girdileri ayrıştırma ve önceliklendirme süreçlerindeki eksiklikleri gözler önüne seriyor. Güvenlik uzmanları, yapay zeka destekli araçlar kullanan kurumların, gelen e-postalardaki HTML içeriğini temizleyen veya modelin yalnızca güvenilir metin bloklarını işlemesini sağlayan filtreleme mekanizmalarını devreye alması gerektiğini belirtiyor.