Google, Yapay Zeka Kaynaklı Hatalı Raporlar Nedeniyle Hata Ödül Programını Askıya Aldı

Google, açık kaynaklı yazılım projelerindeki güvenlik açıklarını tespit etmeyi amaçlayan Open Source Software Vulnerability Rewards Program adlı hata ödül programını 1 Ekim itibarıyla askıya aldığını duyurdu. Şirket, bu kararın arkasında yapay zeka araçları kullanılarak oluşturulan ve büyük bir kısmı geçersiz olan rapor sayısındaki ciddi artışın yattığını belirtti.

Söz konusu program, bağımsız araştırmacıların Google'ın açık kaynak kodlu projelerindeki zafiyetleri bildirmesi ve bu bildirimler karşılığında ödül alması üzerine kurulu bir yapıya sahipti. Ancak son dönemde, yapay zeka modelleri tarafından otomatik olarak üretilen ve gerçek bir güvenlik açığı içermeyen, hatta halüsinasyon olarak adlandırılan hatalı verilerle dolu raporların sisteme akın etmesi, mühendislerin ve yazılım bakım sorumlularının iş yükünü yönetilemez hale getirdi.

Şirket, sosyal medya platformu X ve resmi web sitesi üzerinden yaptığı açıklamada, programın mevcut haliyle sürdürülebilir olmadığını vurguladı. Yapılan duyuruya göre, sistemdeki bu yoğunluk ve kalite sorunu nedeniyle programa 2027 yılının ilk çeyreğine kadar ara verildi. Bu süreçte katılımcıların, Google bünyesindeki diğer hata ödül programlarına yönelmeleri öneriliyor.