ABD yönetimi, büyük teknoloji şirketlerinin yöneticileriyle yaptığı toplantıda ileri yapay zekâ sistemlerine ilişkin ortak bir taahhüt yayımladı. “Joint Commitment on Frontier Responsibilities” başlıklı metin, güvenlik, risk paylaşımı ve kamuya karşı sorumluluk ilkelerini gündeme getiriyor. Ancak belge hukuken bağlayıcı değil.
Toplantıya teknoloji şirketlerinin yöneticileri katıldı
Toplantıda Mark Zuckerberg, Jeff Bezos, Elon Musk ve Dario Amodei gibi isimler yer aldı. Yönetim, yapay zekâ yerine daha iddialı bir çerçeve sunan “süper zekâ” ifadesini öne çıkardı.
Taahhüt; ileri düzey sistemlerin güvenliğini, risklerin paylaşılmasını ve şirketlerin kamuya karşı sorumluluğunu ele alıyor. Donald Trump belgeyi “ahlaki açıdan bağlayıcı” olarak nitelendirdi.
Belgede yaptırım ve denetim ayrıntıları yok
Metin hukuki yaptırım öngörmediği için, imzacı şirketlerin taahhütlere uymaması durumunda uygulanacak açık bir mekanizma bulunmuyor. Şirketlerin kendi test sonuçlarını ve açıklamalarını kimin, nasıl denetleyeceği de ayrıntılandırılmış değil.
Ortak ilkeler, şirketler arasında asgari bir sorumluluk dili oluşturabilir. Ancak bağımsız denetim, olayların bildirilmesi için süre sınırları ve ölçülebilir güvenlik eşikleri belirlenmediği sürece taahhüdün etkisini değerlendirmek zor olacak.
Taahhüdün etkisi uygulamayla netleşecek
“Süper zekâ” ifadesi, mevcut sistemlerin sınırlarını ve geleceğe yönelik hedefleri aynı tartışmada buluşturuyor. Bu nedenle kamuoyuna yönelik mesajlarla teknik güvenlik önlemlerini birbirinden ayrı ele almak gerekiyor. Genel ilkelerin somut ve denetlenebilir kurallara dönüşüp dönüşmeyeceği, belgenin etkisini belirleyecek.
