Google, Yapay Zeka ile Uydu Görüntülerini Değiştiren Aracı Bir Günde Kapattı

Google, geçtiğimiz Perşembe günü Google Earth platformuna eklediği ve kullanıcıların metin komutları aracılığıyla uydu görüntülerini düzenlemesine olanak tanıyan yapay zeka tabanlı özelliği kullanımdan kaldırdı. Söz konusu araç, gerçek dünya görüntüleri üzerinde deepfake içerikler oluşturulmasına imkan tanıması nedeniyle kısa sürede yoğun eleştirilerin odağı haline geldi.

Dijital araştırmacı Henk van Ess, aracın güvenlik açıklarını ortaya koymak amacıyla yaptığı testlerde, Meksika sınırı yakınlarına mülteci grupları yerleştirmek veya Gazze'deki bir hastanenin yanına yapay bir bomba krateri eklemek gibi manipülatif görseller oluşturabildiğini gösterdi. Van Ess, yaptığı denemelerde sistemin hiçbir komutu reddetmediğini ve herhangi bir uyarı mekanizmasının devreye girmediğini belirtti.

Araştırmacı, sistem tarafından üretilen görsellerin dijital filigran içermesine rağmen, Hive gibi yapay zeka tespit araçlarını yanıltabildiğini kanıtladı. Bu durum, filigranların dezenformasyonun yayılmasını engellemekte yetersiz kalabileceği endişelerini artırdı.

Google, başlangıçta görsellerin Nano Banana 2 modeliyle oluşturulduğunu ve zararlı içeriklerin engellendiğini savunsa da, bir gün sonra geri adım attı. Şirket tarafından yapılan açıklamada, kullanıcıların Google Earth'e duyduğu güvenin korunması gerektiği vurgulanarak, politikaları ihlal eden içeriklerin paylaşılması nedeniyle özelliğin daha sıkı güvenlik duvarları oluşturulana kadar geri çekildiği ifade edildi.