OpenAI, Avrupa Birliği'nde ChatGPT Metinlerine Görünmez Filigran Eklemeye Başlıyor
OpenAI, Avrupa Birliği'nin yürürlüğe giren yapay zeka Act düzenlemelerine uyum sağlamak adına ChatGPT ve Codex modelleri için yeni bir içerik işaretleme sistemini devreye alıyor. Şirket, yapay zeka tarafından oluşturulan metinleri diğer sistemlerin tanımlayabileceği şekilde işaretleyen görünmez bir filigran teknolojisini önümüzdeki haftalarda Avrupa Birliği'ndeki tüm kullanıcılarına sunacak.
textGrain adı verilen bu yöntem, metnin içine gözle görülmeyen ancak özel bir dedektörle fark edilebilen bir desen yerleştiriyor. Sistem, modelin kelime seçimlerini ince bir şekilde şekillendirerek çalışıyor ve bu işaret metin kopyalanıp başka bir yere yapıştırıldığında dahi korunuyor. Geliştiriciler, OpenAI API üzerinden bu özelliği bugün itibarıyla seçili modeller için aktif edebiliyor ancak özellik varsayılan olarak kapalı geliyor.
Şirket, bu yöntemin metnin düzenlenmesi veya kısaltılması durumunda tespit edilebilirliğinin azaldığını belirtiyor. Yapılan testlerde, metindeki kelimelerin yüzde 10'unun eş anlamlılarıyla değiştirilmesi, tespit oranını yüzde 92 seviyesinden yüzde 66'ya düşürdü. Ayrıca matematiksel yanıtlar, çeviriler ve çok kısa metinlerin tespit edilmesinin daha zor olduğu ifade ediliyor.
Bu kısıtlamalar nedeniyle dedektör erişimi şimdilik yalnızca onaylı araştırmacılar ve uzman kuruluşlarla sınırlandırılıyor. OpenAI, filigranın eksikliğinin metnin insan tarafından yazıldığını kanıtlamadığını; metnin başka bir şirketin yapay zeka modeliyle oluşturulmuş veya yoğun şekilde düzenlenmiş olabileceğini vurguluyor.
