Anthropic, Claude Modellerine Filigran Ekliyor Ancak Eski Sürümlerde Bir Açık Bulunuyor

Anthropic, metin tabanlı yapay zeka modellerine görünmez filigranlar ekleme stratejisini genişletiyor. Şirket, Claude Mythos 5, Claude Opus 4.7, Claude Opus 4.6 ve Claude Sonnet 4.6 modellerine bu özelliği entegre edeceğini duyurdu. Söz konusu filigran, metnin anlamını veya kalitesini değiştirmeden, kelime seçimlerinde istatistiksel olarak tespit edilebilir bir desen oluşturuyor.

Şirketin API kullanıcılarına gönderdiği bilgilendirmeye göre, Claude Opus 4.6 ve Claude Sonnet 4.6 modellerinde filigran yalnızca varsayılan örnekleme parametreleri kullanıldığında aktif oluyor. Geliştiriciler; temperature, top_p ve top_k gibi rastgelelik kontrolü sağlayan ayarları değiştirdiklerinde, sistemin oluşturduğu filigran devre dışı kalıyor. Anthropic, uyumluluk gereksinimleri için bu parametrelerin varsayılan değerlerde tutulması gerektiği konusunda kullanıcılarını uyarıyor.

İlginizi çekebilir · Yapay ZekâMicrosoft, Çalışanlarının Dörtte Birine İsteğe Bağlı İzin Paketi Sunuyor

Bu güncelleme, Avrupa Birliği'nin Aralık ayında yürürlüğe girecek olan Yapay Zeka Yasası gerekliliklerini karşılamayı hedefliyor. Google DeepMind'ın SynthID teknolojisinin bir türevini kullanan bu yöntem, model seviyesinde gömülü olduğu için Amazon Web Services, Google Cloud ve Microsoft Foundry gibi tüm platformlarda geçerli oluyor. Anthropic, bu filigranın kullanıcı verisi veya konuşma içeriği hakkında herhangi bir bilgi içermediğini ve çıktı hızını etkilemediğini vurguluyor.

Sektörde bu yöntemin metin kalitesine etkisi ise tartışılmaya devam ediyor. Bazı uzmanlar, kelime seçiminin semantik uyum yerine bir filigran anahtarına göre belirlenmesinin, metin hassasiyetini düşürebileceğini savunuyor. Ayrıca hukuk firmaları gibi yapay zeka kullanımının kısıtlandığı alanlarda, iç içe geçmiş birden fazla filigranın tespit süreçlerinde karmaşıklık yaratabileceği endişesi dile getiriliyor.