Geoffrey Hinton ve Yoshua Bengio’nun da imzaladığı, 34 ülkeden yaklaşık 400 araştırmacının destek verdiği açık mektupta, gelişmiş yapay zeka sistemlerinin güvenliği için uluslararası bir denetim kurumu kurulması istendi. Öneriler arasında siber saldırı kapasitesi bulunan modeller için ortak standartlar belirlenmesi ve sistemlerin dış ağlardan yalıtılması da yer alıyor.
Ortak standartlar ve ihlal kaydı önerisi
Araştırmacılar, özellikle siber saldırı yeteneklerine sahip yapay zeka modelleri için ortak güvenlik kuralları oluşturulmasını talep etti. Mektupta önerilen kurumun, sektör genelinde uygulanacak kontrol standartlarını belirlemesi ve önemli güvenlik olaylarını kayda geçirmesi gerektiği belirtildi.
Bu kayıtların ilerleyen dönemde kamuoyuyla paylaşılması da öneriler arasında bulunuyor.
Modellerin dış ağlardan yalıtılması gündemde
İmzacılara göre gelişmiş yapay zeka modelleri, ilk aşamada dış ağlardan fiziksel ya da mantıksal olarak ayrılmış sistemlerde çalıştırılmalı ve bağımsız denetime tabi tutulmalı.
Siber güvenlikte “air-gapping” adı verilen yöntem, bir sistemin dış ağlarla doğrudan bağlantısının kesilmesi anlamına geliyor.
Şirketlerin güvenlik taahhütleri yeterli görülmedi
Açık mektupta, şirketlerin kendi inisiyatifleriyle duyurduğu güvenlik taahhütlerinin tek başına yeterli olmadığı ifade edildi. Hükümetler daha kapsamlı bir denetim mekanizması üzerinde çalışırken, yapay zeka geliştiren ve test eden kuruluşlardan yüksek güvence sağlayan güvenlik standartlarını vakit kaybetmeden uygulamaya koymaları istendi.
