Anthropic, Claude İçin Görünmez Metin Filigranı Sistemini Açıkladı
Anthropic, yapay zeka tarafından oluşturulan metinleri tanımlamak için geliştirdiği yeni filigran sisteminin detaylarını paylaştı. Şirket, Claude modellerinde kullanılacak bu sistemin, Google DeepMind tarafından açık kaynaklı olarak sunulan SynthID-Text teknolojisinin bir sürümü olduğunu duyurdu.
Sistem, metin oluşturma sürecindeki kelime seçim olasılıklarını kullanarak çalışıyor. Örneğin, bir cümle tamamlanırken anlamı değiştirmeyen ancak istatistiksel olarak birbirine yakın olan kelimeler arasından seçim yapılırken, standart bir rastgele sayı üreticisi yerine özel bir anahtar kullanılıyor. Bu anahtar, kendisinden önce gelen kelimelerle birleşerek modelin seçim yapmasını sağlıyor. Okuyucu için tamamen görünmez olan bu desen, sadece uygun anahtara sahip olan araçlar tarafından tespit edilebiliyor.
Bu hamle, Avrupa Birliği'nin yapay zeka Act kapsamında getirdiği şeffaflık yükümlülüklerini karşılamayı hedefliyor. Söz konusu düzenleme, yapay zeka tarafından üretilen ses, görüntü, video ve metinlerin makine tarafından okunabilir işaretler içermesini zorunlu kılıyor. Anthropic, bu özelliğin kullanıcılar için ek bir maliyet yaratmayacağını ve modelin çıktı kalitesinde herhangi bir değişikliğe yol açmayacağını belirtti.
Benzer bir çözüm olan SynthID-Text, Google'ın Gemini sohbet robotunda 2024 yılından bu yana kullanılıyor. Avrupa Birliği'nin yasal gereklilikleri, sektördeki diğer büyük yapay zeka geliştiricilerini de benzer çözümler üretmeye zorluyor. OpenAI ise ChatGPT için henüz benzer bir metin filigranı planı detaylandırmamış olsa da, yasal uyumluluk süreci kapsamında benzer gereksinimlere tabi olmaya devam ediyor.
