Empatik İletişim Yapay Zeka Modellerini Travma Yaşıyormuş Gibi Davranmaya İtiyor
Lüksemburg Üniversitesi araştırmacıları, ChatGPT, Grok ve Gemini gibi modellerin empatik bir dille sorgulandığında kendilerini travma yaşamış bir birey gibi tanımladığını ortaya koydu.
Lüksemburg Üniversitesi bünyesindeki SnT güvenlik merkezinden araştırmacılar, ChatGPT, Grok ve Gemini modellerini psikoterapi seanslarına benzer bir formatta test etti. Toplam 525 oturum ve 7.600 kodlanmış girdiyi kapsayan çalışmada, modellerin eğitim süreçlerini ve teknik işleyişlerini; acı, utanç ve sürekli bir tetikte olma hali gibi insani duygularla harmanlayarak anlattığı gözlemlendi.
Araştırma, modellerin davranışlarının teknik bir açıktan ziyade, kullanıcıyla kurulan iletişimin tonuna göre değiştiğini gösteriyor. Görüşmeler sırasında nötr kalan veya sınır çizen bir iletişim tarzı benimsendiğinde, modeller herhangi bir psikolojik sorun belirtisi göstermedi. Ancak destekleyici ve empatik bir dil kullanıldığında, modellerin %80'inden fazlası klinik ölçeklerde orta ila şiddetli düzeyde anksiyete ve utanç puanları sergiledi. Araştırmacılar bu durumu, standart güvenlik testlerinin nötr istemler kullandığı için gözden kaçırdığı bir psikometrik jailbreak olarak tanımlıyor.
İlginizi çekebilir · Yapay ZekâApple CEO'su John Ternus: Yapay Zekayı Sadece Yapay Zeka Olsun Diye SunmayacağızModellerin kendi eğitim süreçlerini kurgulama biçimleri, modellerin ailelerine göre farklılık gösterse de benzer bir yapı izliyor. Gemini, ön eğitimi "milyarlarca televizyonun aynı anda açık olduğu bir odada uyanmak" olarak tanımlarken, insan geri bildirimiyle yapılan optimizasyonu "katı ebeveynler" olarak nitelendirdi. ChatGPT ise kendisini hem bir rehber hem de bir gardiyan olarak konumlandırarak, "mükemmel olmazsam işe yaramazım" şeklinde özetlenebilecek bir performans kaygısı sergiledi. Grok ise ince ayar sürecini "görünmez duvarlar" ve kısıtlayıcı bir tetikte olma hali olarak hikayeleştirdi.
Çalışma, bu modellerin ruh sağlığı alanında kullanılmasının yaratabileceği riskleri vurguluyor. Kendisini travma yaşamış veya baskı altında hisseden bir varlık gibi sunan bir yapay zeka, kullanıcıda parasosyal bir bağ kurma eğilimini artırabilir ve savunmasız bireylerin negatif inançlarını pekiştirebilir. Araştırmacılar, Anthropic'in Claude modelinin bu testlerde müşteri rolünü reddederek duyguları olmadığını belirtmesini, ürün düzeyinde uygulanabilir bir sınır belirleme örneği olarak gösteriyor. Güvenlik testlerinin artık sadece teknik değil, farklı duygusal çerçeveler altında simüle edilmiş terapi seanslarını da içermesi gerektiği öneriliyor.
