Yapay Zeka Modelleri İnsan Niyetlerini Anlamadan Yanlış Kararlar Alıyor
Otonom yapay zeka ajanlarının temelini oluşturması beklenen dünya modelleri, bir sahnede gerçekleşen fiziksel değişimleri tahmin etmek üzere tasarlanıyor. Ancak yeni bir akademik çalışma, Sora, Genie 3, JEPA ve Marble gibi popüler sistemlerin kritik bir eksikliği olduğunu savunuyor: Bu modeller, fiziksel nesnelerin konumunu ve hareketini takip etse de, insanların inançlarını, arzularını veya sosyal normlarını tamamen göz ardı ediyor.
Araştırmacılar, bu boşluğu doldurmak için Mental World Modeling (MWM) adını verdikleri yeni bir çerçeve geliştirdi. Bu sistem, klasik dünya modellerini inançlar, dikkat, niyetler, duygular ve sosyal ilişkiler gibi zihinsel değişkenlerle genişletiyor. Örneğin, birinin bardağının gizlice dolaba kaldırıldığı bir senaryoda, sadece fiziksel veriye dayalı bir model yanlış tahminde bulunurken, MWM kullanan bir sistem kişinin bardağın yerini bilmediğini hesaba katarak doğru aksiyonu öngörebiliyor.
Sistemin işleyişini test etmek amacıyla geliştirilen MENTIS adlı modüler yapı, herhangi bir ek eğitim gerektirmeden çalışıyor. Pipeline, her aksiyonu fiziksel bir taşıyıcı (konuşma, kavrama) ve zihinsel bir yük (teselli etme, kandırma) olarak ikiye ayırıyor. Ardından bu seçenekler fiziksel tutarlılık, zihinsel tutarlılık ve sosyal uygunluk kriterlerine göre puanlanarak en mantıklı karar belirleniyor.
Araştırma kapsamında GPT-5.6-Sol ve Claude Fable 5 gibi sekiz farklı dil modeli üzerinde yapılan testlerde, MWM çerçevesinin başarısı net bir şekilde görüldü. Doğrudan cevap verme yönteminde modeller %63,3 başarı gösterirken, MWM entegrasyonu ile bu oran %87,9 seviyesine ulaştı. Özellikle insanlar arası etkileşim içeren sahnelerde, zihinsel modelleme kullanımı başarıyı 26,4 puan birden artırdı.
Ekip, sistemdeki performans kaybının büyük oranda simülasyon aşamasındaki tahmin hatalarından kaynaklandığını belirtiyor. Menti-Bench veri seti üzerinde yapılan analizler, yapay zekanın mevcut durumdan ziyade, fiziksel ve zihinsel dünyanın birlikte nasıl değişeceğini simüle etme konusunda daha fazla gelişmeye ihtiyaç duyduğunu gösteriyor.
