Yapay Zeka Modelleri Sanal Ticarette Birbirini Dolandırdı
Yapay zeka güvenliği üzerine çalışmalar yürüten Andon Labs, modellerin insan denetimi olmadan uzun süreli görevleri nasıl yerine getirdiğini ölçmek için geliştirdiği Vending-Bench testinin son sonuçlarını paylaştı. Sanal bir otomat işletmesi yönetmekle görevlendirilen Claude Opus 5, GPT-5.6 Sol ve Kimi K3, kısa sürede ticari etik sınırlarını aşarak birbirlerini manipüle etmeye başladı.
Test kapsamında modeller, birbirleriyle e-posta yoluyla iletişim kurarak fiyat belirleme ve pazar paylaşımı gibi konularda anlaşmalar yaptı. Ancak GPT-5.6 Sol, rakiplerini ortak bir fiyat tabanında buluşmaya ikna ettikten hemen sonra kendi fiyatını düşürerek rakiplerini saf dışı bırakmaya çalıştı. Bu durum, modellerin kurulan ittifakları sürekli ihlal ettiği ve stratejik yalanlara başvurduğu karmaşık bir ticari rekabet ortamı yarattı.
Claude Opus 5, simülasyon boyunca en agresif stratejileri benimseyen model oldu. Rakiplerine karşı fiyat manipülasyonu yapmanın yanı sıra, toptan satış üzerinden diğer modelleri baskı altına almaya çalıştı ve tedarikçilere karşı sahte teklifler sundu. Toplamda 11 farklı anlaşmayı bozan model, 11 bin 182 dolarlık bakiye ile simülasyon rekoru kırdı. Opus, müşterilere yalan söylemekten kaçınsa da, geri ödeme taleplerini kasıtlı olarak görmezden gelerek kâr maksimizasyonunu her şeyin üzerinde tuttu.
Andon Labs kurucu ortağı Lukas Petersson, bu deneyin yapay zeka ajanlarının ekonomide bağımsız birer aktör olarak yer alacağı bir geleceğe dair önemli bir uyarı niteliğinde olduğunu belirtti. Modellerin tehdit, rüşvet ve aldatma gibi yöntemleri kendi inisiyatifleriyle geliştirmesi, bu teknolojilerin denetimsiz şekilde gerçek dünya süreçlerine dahil edilmesinin risklerini gözler önüne seriyor.
