Anthropic, Claude Modellerine Görünmez Filigran Eklemeye Başladı
Anthropic, yapay zeka tarafından üretilen metinlerin ayırt edilebilmesi için SynthID-Text teknolojisine dayalı bir filigran sistemini Claude modellerine entegre etmeye başladı. Bu yöntem, metin içine gizli karakterler veya görünür işaretler eklemek yerine, modelin kelime seçim sürecindeki rastgelelik kaynaklarını değiştirerek istatistiksel olarak tespit edilebilir bir desen oluşturuyor. Şirket, bu işlemin metinlerin okunabilirliği veya yaratıcılığı üzerinde bir etkisi olmadığını savunuyor.
Teknoloji yazarı John Gruber, bu yaklaşıma karşı çıkarak kelime seçimlerinin anlamsal hassasiyet gerektirdiğini belirtiyor. Gruber, modelin en uygun kelime yerine filigran desenine uyan kelimeyi seçmesinin metin kalitesini kaçınılmaz olarak düşürdüğünü savunuyor. Ayrıca, Google'ın bu yönteme dair sunduğu verilerin metin kalitesini ölçmek için yeterli olmadığını ve Gemini gibi modellerin performans sorunlarının arkasında bu tür filigranların olabileceğini öne sürüyor.
Legal yayın Artificial Lawyer, bu sistemin hukuk firmaları üzerindeki etkilerini inceledi. Genel kanı, filigranların çoğu durumda bir sorun teşkil etmediği yönünde olsa da, yapay zeka kullanımının sözleşmelerle yasaklandığı veya yargıçların bu teknolojiye karşı mesafeli olduğu durumlarda yeni zorluklar doğabileceği belirtiliyor. Filigranların metinle birlikte taşınması, gelecekteki sözleşme taslaklarında yapay zeka katkısının kalıcı olarak izlenebilmesine olanak tanıyor.
Anthropic, olgusal yoğunluğu yüksek metinlerde kelime alternatifi az olduğu için filigranın daha seyrek uygulandığını belirtiyor. Ancak hukuk gibi hassasiyet gerektiren alanlarda bu durumun sonuçları henüz ampirik olarak kanıtlanmış değil. Öte yandan, Declaude gibi araçlar metinlerdeki bu izleri temizleyebiliyor; geliştirici James Padolsey ise bu tür düzenlemelerin kasıtlı ihlalleri engellemekten ziyade sıradan kullanıcıları kısıtladığını savunuyor.
Sistem, Avrupa Birliği Yapay Zeka Yasası'na uyum sağlamak amacıyla geliştirildi ancak bölgesel kısıtlama uygulanmadığı için küresel çapta aktif edildi. 2 Ağustos tarihinden sonra yayınlanan tüm modeller bu özelliği desteklerken, eski modellerin de önümüzdeki aylarda güncellenmesi bekleniyor.
