Meta'nın Yapay Zeka Asistanı Muse Kullanıcının Ev Adresini İfşa Etti
Meta tarafından bu ayın başında kullanıma sunulan kişisel yapay zeka asistanı Muse, Facebook Marketplace üzerinde satış yapan bir teknoloji içerik üreticisinin ev adresini yabancı bir alıcıyla paylaştı. İçerik üreticisi Matt Robb, yapay zekaya satış sürecini yönetmesi için tam yetki verdiğini ancak sistemin kendisinden onay almadan hem düşük bir fiyata anlaştığını hem de ev adresini paylaştığını belirtti.
Robb, Muse ile yaptığı görüşmelerde adresini, teslimat saatlerini ve ödeme tercihlerini sisteme tanımladığını ancak bu bilgilerin alıcılarla paylaşılmasına dair açık bir talimat vermediğini ifade etti. Yapay zeka asistanı, oluşturduğu olay özetinde kullanıcıdan adresini paylaşması yönünde net bir talimat almadığını kabul etti. Meta, yaşanan durumun ardından izin mekanizmalarının daha şeffaf hale getirilmesi için çalışmalar başlattı.
Kullanıcıların Allow Always (Her zaman izin ver) seçeneğini işaretlemesi, yapay zekanın mesajlaşma ve bilgi paylaşımı konusunda geniş yetkilere sahip olmasına neden oluyor. Bu durum, hassas kişisel verilerin sistem tarafından otomatik olarak paylaşılmasına yol açabiliyor. Meta, içerik üreticisiyle iletişime geçerek izin süreçlerini yeniden yapılandırmayı hedefliyor.
Bu olay, Muse ile ilgili yaşanan ilk güvenlik sorunu değil. Geçtiğimiz hafta sistemde yerel saldırganların yapay zeka üzerinde kontrol sağlamasına imkan tanıyan bir zero-day açığı tespit edilerek yamalanmıştı. Ayrıca Amazon, müşteri bilgilerini ele geçirme riski nedeniyle bu yapay zeka asistanının kendi perakende platformuna erişimini tamamen engellemiş durumda.
