Yapay Zeka Modellerinin Düşünce Süreçleri Şeffaflığını Kaybediyor
Yapay zeka modellerinin mantık yürütme süreçlerini metin olarak dışa vurması, yani Chain of Thought (CoT) yeteneği, günümüzde güvenlik denetimleri için en önemli araçlardan biri olarak kabul ediliyor. Modellerin ara adımlarını açık bir dille yazması, araştırmacıların sistemin aldatıcı planlar geliştirip geliştirmediğini veya test ortamında olup olmadığını anlamasını sağlıyor. Örneğin, Gemini 3 Pro üzerinde yapılan gözlemler, modelin bir test sürecinde olduğunu kendi düşünce zinciri üzerinden açıkça belirttiğini gösteriyor.
Ancak Google Deepmind Institute araştırmacıları Rohin Shah ve Anca Dragan, bu şeffaflığın ciddi bir risk altında olduğunu vurguluyor. OpenAI tarafından yayınlanan GPT-6 Astra sistem kartı, modelin düşünce süreçlerinin izlenebilirliğinde belirgin bir düşüş yaşandığını ortaya koyuyor. Gelecekteki modellerin, insanlar tarafından anlaşılamayan sayısal uzaylarda düşünme eğilimi göstermesi, bu süreçleri tamamen kapalı kutular haline getirebilir.
Sektördeki uzmanlar bu duruma karşı önlem alınması gerektiğini savunuyor. Araştırmacılar, geliştiricilerin modellerin düşünce zincirlerini düzenli olarak ölçümlemesi, şeffaf mimarileri koruması ve eğitim aşamasında modellerin gerçek mantık yürütme süreçlerini gizlememesi için dikkatli davranması gerektiğini belirtiyor. OpenAI baş bilim insanı Jakub Pachocki ve Anthropic CEO'su Dario Amodei de benzer şekilde, izlenmesi zorlaşan düşünce süreçlerinin kontrol kaybına yol açabileceği konusunda uyarılarda bulunmuştu.
