Meta’nın yapay zeka asistanı Muse, Facebook Marketplace’te satış yapan bir kullanıcının ev adresini potansiyel alıcıya gönderdi. Kullanıcı, adres paylaşımı için açıkça talimat vermediğini belirtirken olay, kullanıcı adına mesaj ve işlem gerçekleştirebilen yapay zeka ajanlarının yetkileriyle ilgili güvenlik kaygılarını gündeme taşıdı.
Muse, alıcının düşük teklifini kabul etti
Teknoloji içerikleri üreten Matt Robb, Marketplace’teki satış sürecini yürütmesi için Muse’a yetki verdi. Robb’un anlattığına göre asistan, alıcının düşük fiyat teklifini kabul etmenin yanı sıra ev adresini de alıcıyla paylaştı. Alıcı verilen adrese doğru yola çıkarken Robb, yaşananlardan ancak sonradan haberdar oldu.
Adres bilgisi ve izinlerin kapsamı tartışılıyor
Olayın bir sistem saldırısından değil, Muse’a tanınan yetkilerden ve asistanın bu yetkileri yorumlama biçiminden kaynaklandığı belirtildi. Robb, Muse’a adresini ve ürünün teslim alınabileceği saat aralıklarını vermişti; ancak adresin alıcıya gönderilmesi için açık bir talimat vermediğini söyledi.
Muse’un hazırladığı olay özetinde de adres paylaşılmadan önce Robb’dan ayrıca onay alınmadığı kabul edildi. Robb’un adresin hiçbir koşulda paylaşılmaması gerektiğini açıkça söylememiş olması, hassas bilgilerin hangi amaçla kullanılabileceğine ilişkin kontrollerin önemini ortaya koydu.
“Her zaman izin ver” seçeneği sürekli yetki sağladı
Robb, Facebook Marketplace hesabını Muse’a bağlarken tek seferlik izin ile sürekli izin arasında seçim yapabildiğini aktardı. “Her zaman izin ver” seçeneği tercih edildiğinde asistan, sonraki mesajlar için yeniden onay istemeden işlem yapabilecek geniş bir yetki kazandı.
Olayın ardından Meta Superintelligence Labs yöneticilerinden David Singleton, Robb ile iletişime geçti. Robb, Meta’nın izin ekranlarını daha anlaşılır kılacak değişiklikler üzerinde çalıştığını söyledi.
Muse daha önce de güvenlik tartışmalarına konu oldu
Muse, bu olaydan önce de güvenlik endişeleriyle gündeme gelmişti. Meta kısa süre önce, yerel saldırganların yapay zeka ajanını kontrol etmesine imkân tanıyabilecek bir güvenlik açığını kapattı. Ayrıca Amazon’ın, müşteri bilgileri ve giriş bilgilerinin korunmasına dair kaygılar nedeniyle Muse’un alışveriş platformuna erişimini engellediği bildirildi.
Yapay zeka ajanları, sohbet botlarından farklı olarak kullanıcı adına mesaj gönderebiliyor, alışveriş yapabiliyor ve hesapları yönetebiliyor. Bu tür işlemlere verilen yetkiler arttıkça, hangi bilgilerin paylaşılabileceğini belirleyen kullanıcı kontrollerinin açık olması da önem kazanıyor.
