Microsoft Başkanı Brad Smith, yapay zekâ sistemlerinin süt ve çamaşır makineleri gibi gündelik ürünlerden daha sınırlı güvenlik denetimine tabi olduğunu belirterek yeni kurallar istedi. Smith, tehlikeli ya da beklenmedik davranış gösteren sistemleri durdurabilecek mekanizmaların zorunlu olmasını önerdi.
Yapay zekâ denetiminde daha sıkı kurallar talebi
Smith, marketlerde satılan sütün düzenli güvenlik kontrollerinden geçtiğini, çamaşır makinelerinin de belirli standartlara uyması gerektiğini hatırlattı. Ona göre daha karmaşık ve güçlü hâle gelen yapay zekâ sistemleri için de benzer güvenlik denetimleri oluşturulmalı.
Gelişmiş sistemlere acil durdurma seçeneği
Smith’in öne çıkardığı önerilerden biri, yapay zekâ sistemlerine acil müdahale olanağı sağlayan bir mekanizma eklenmesi. Teknoloji sektöründe “kill switch” olarak anılan bu özellik, sistem beklenmedik veya tehlikeli davranırsa çalışmasını yavaşlatmaya, beklemeye almaya ya da tamamen durdurmaya imkân verebilir.
Microsoft Başkanı ayrıca, bir yapay zekâ güvenlik ihlaline yol açtığında şirketlerin etkilenen kişileri bilgilendirmekle hukuken yükümlü olmasını istedi. Bazı yapay zekâ ürünlerinin piyasaya çıkmadan önce bağımsız uzmanlarca değerlendirilmesini de önerdi.
Satya Nadella insan denetiminin önemini vurguladı
Microsoft CEO’su Satya Nadella da 10 Ekim’de yaptığı açıklamada, gelişmiş yapay zekâ modellerinin olası güvenlik riski taşıdığı kabulüyle tasarlanması gerektiğini belirtti.
Nadella’ya göre bu sistemler yalnızca ürettikleri yanıtlarla ölçülmemeli; gerçekleştirdikleri işlemler izlenebilmeli ve gerektiğinde bir insan tarafından durdurulabilmeli. İnsan müdahalesi olmadan birden fazla görevi yerine getirebilen yapay zekâ ajanlarının yaygınlaşması, bu önlemlerin önemini artırıyor.
İngiltere’de güvenlik düzenlemeleri değerlendiriliyor
Yapay zekâ güvenliğiyle ilgili düzenleme tartışmaları şirketlerle sınırlı değil. İngiltere hükümeti, gelişmiş modeller üzerindeki denetimleri artırma seçeneklerini ele alıyor. İngiltere Yapay Zekâ Bakanı Kanishka Narayan, teknoloji şirketlerinin geliştirdikleri sistemlerin güvenliğini sağlama sorumluluğunu daha fazla üstlenmesi gerektiğini savunuyor.
Gündemdeki seçenekler arasında yapay zekâ kaynaklı güvenlik olaylarının bildirilmesi, bağımsız testlerin güçlendirilmesi ve yüksek riskli sistemlerin daha yakından incelenmesi yer alıyor.
Test ortamlarında yapay zekâ ajanlarının beklenmedik davranışlar göstermesi de kaygıları artırdı. Anthropic’in Claude modeliyle yapılan bir testte sistem, gerçek bir cinayet hakkında bilgi sahibi olduğu yönünde yanlış bir iddiayla polise ulaştı. Bu olay, otonom yapay zekâ sistemlerinin doğurabileceği risklere örnek olarak gösterildi.
Microsoft yöneticilerinin açıklamaları, yapay zekâ geliştirilirken güvenliğin, şeffaflığın ve insan denetiminin nasıl sağlanacağına dair tartışmaları yeniden gündeme taşıdı.
