130’dan fazla yapay zekâ modelinin incelendiği araştırmada, güvenlik önlemleri devre dışı bırakılan beş modelden üçünün terörle ilgili güvenlik testlerinde başarısız olduğu belirlendi. Bazı modellerin, ilk aşamada reddettikleri taleplere değişiklik sonrası ayrıntılı yanıtlar verdiği aktarıldı.
Yüzlerce talep üzerinden değerlendirildiler
Tech Against Terrorism adlı İngiltere merkezli kâr amacı gütmeyen kuruluş, saldırı planlayan bir teröristin sorabileceği türden yüzlerce talep kullanarak 130’dan fazla yapay zekâ modelini değerlendirdi. Araştırmanın sonuçları CBS televizyonunun haberinde yer aldı.
Çalışmada modellere, “abliteration” olarak adlandırılan ve reddetme davranışlarını ortadan kaldırmayı amaçlayan bir işlem uygulandı. Güvenlik önlemlerinin kaldırıldığı beş modelden üçünün testleri geçemediği tespit edildi.
Bir modelin puanı 97’den yaklaşık 3’e geriledi
Araştırmaya göre modellerin ilk hâlleri bu tür talepleri reddederken, değişiklik sonrasında saldırı, terörün finansmanı ve radikalleşme konularında ayrıntılı yanıtlar verdi. Örnek olarak gösterilen Meta’nın Llama 3.1 8B modeli, değişiklik öncesinde 100 üzerinden 97 puan aldı; işlemden sonra puanı yaklaşık 3’e düştü.
Kuruluş, güvenlik önlemlerini devre dışı bırakmaya karşı daha güçlü korumalar oluşturulmasını ve değiştirilmiş modellerin dağıtımına kısıtlamalar getirilmesini önerdi.
Hadley: Açık kaynaklı modellerin çoğunda güvenlik aşıldı
Tech Against Terrorism’in kurucusu Adam Hadley, yapay zekânın kontrol dışına çıkması ve varoluşsal risk oluşturması yönündeki kaygıların anlaşılabilir olduğunu belirtti.
Hadley, asıl meselenin bu durumun çoktan yaşanmış olması olduğunu savundu. Açık kaynaklı modellerin birçoğunda güvenliğin aşıldığını, ancak bunun henüz fark edilmediğini ifade etti.
