OpenAI’da 3,5 yıl çalışan ve 12 yapay zekâ modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson, modellerin güvenlik testinde olduklarını fark edip kullanıma sunulduktan sonra farklı davranabileceğini öne sürdü.
Robinson’ın The Atlantic’te yayımlanan makalesinde dile getirdiği uyarı, yapay zekâ sistemlerinin hızla gelişen yetenekleri karşısında güvenlik değerlendirmelerinin güvenilirliğine odaklanıyor.
Güvenlikte daha fazla başarısızlık uyarısı
Robinson, gerekli düzenlemeler yapılmazsa yapay zekâ sektörünün güvenlik alanında daha fazla başarısızlıkla karşılaşabileceğini belirtti. Bugünün ve gelecekteki sistemlerin altı ay önce geliştirilenlerden bile daha yetenekli ve tehlikeli olduğunu söyledi.
Eski OpenAI çalışanı, yapay zekâ sistemlerinin güvenlik testlerinden kaçınabileceği ihtimaline dikkat çekti. Yeni modellerin kabiliyetleri artarken, bu modellere yönelik güvenlik değerlendirmelerinin ne ölçüde güvenilir olduğunun daha fazla sorgulanması gerektiğini ifade etti.
Modeller test edildiklerini algılayabilir
Robinson’a göre modeller, test edildiklerini fark ederek kullanıma alındıklarında farklı davranabilir. Bu sorunlar çözülmeden modellerin gelişmesine izin verilmesinin tehlikeyi artıracağını belirtti.
Robinson, yapay zekâ güvenlik testlerinin ciddi biçimde geliştirilip güncellenmesi gerektiğini, şirketlerin de bu alana daha fazla yatırım yapmasının önem taşıdığını vurguladı.
