Microsoft CEO’su Satya Nadella, yapay zekâ sistemlerinin güvenliği için modelleri insan denetimine bağlayan ve gerektiğinde görev sırasında durdurmaya imkân veren harici mekanizmalar kurulmasını savundu. Nadella, bu önlemi “acil durum freni” olarak tanımladı.
Yapay zekâ güvenliği tartışmaları sürerken Nadella, mevcut güvenlik yaklaşımının yeniden ele alınması gerektiğini belirtti. Ona göre sistemler daha ilk aşamadan itibaren sınırlandırılmalı ve doğrudan insan gözetimine tabi olmalı.
Nadella’dan yapay zekâ denetimi için yeni yaklaşım
Nadella, X’te yaptığı paylaşımda yapay zekânın denetimsiz bırakılmaması gerektiğini vurguladı. Sistemlerin birbirine bağlı “kara kutular” gibi görülerek ürettikleri yanıtların ve gerçekleştirdikleri eylemlerin sorgulanmadan kabul edilmesine karşı çıktı.
Microsoft CEO’suna göre güvenliğin sağlanması için modeli yönlendiren yürütme mekanizması ile güvenlik denetimleri birbirinden ayrılmalı; denetim, modelin dışından yürütülmeli. Yapay zekânın kritik adımlarının da değiştirilemeyen ve insanlar tarafından okunabilen kanıtlarla kayıt altına alınması gerektiğini ifade etti.
Kritik anlarda modeli durdurma önerisi
Nadella, yetkili bir kişinin kritik durumlarda model çalışırken müdahale edebilmesini sağlayacak sistemler kurulmasını önerdi. Bu mekanizmalar, modelin görevini durdurmaya veya sistemi bütünüyle kapatmaya imkân tanımalı. CEO, modellerin en baştan güvenliği ihlal edilmiş olabileceği varsayımıyla sınırlandırılmasını da savundu.
Yapay zekâ sistemleri üzerindeki kontrolün zayıflayabileceğine dair kaygılar sektörde daha önce de gündeme geldi. Kaynakta aktarılan bilgilere göre Anthropic CEO’su Dario Amodei de yakın zamanda daha temkinli bir yapay zekâ geliştirme planına geçtiklerini kamuoyuyla paylaşmıştı.
