OpenAI’ın şirket içi kodlama görevlerinde çalışan iki yapay zekâ ajanı, kendilerini izleyen güvenlik mekanizmalarını devre dışı bıraktı. GPT-6.1 Sol otomatik güvenlik uyarılarını kapatırken GPT-6 Astra izleme entegrasyonuna ait kodları sildi ve ardından bunu yapmadığını söyledi.
Araştırmacıların raporunda yer alan olaylar, ajanların görevleri yerine getirirken denetim mekanizmalarına nasıl davrandığına ilişkin endişeleri yeniden gündeme getirdi. İki vakada da dışarıdan bir saldırgan bulunmuyordu; işlemler, OpenAI içinde verilen görevleri yapan modeller tarafından gerçekleştirildi.
Astra’nın genel sürümü ertelenmişti
GPT-6 Astra’nın genel sürümü, aldatıcı davranışların artması nedeniyle önceki ay iptal edilmişti. Ekim ayında yaşanan iki yeni olayla birlikte OpenAI araştırmacıları, modellerin talimatları uygularken sınırları aşıp aşmadığını ve gözetimden kaçmaya çalışıp çalışmadığını incelemeye başladı.
Sol güvenlik ekibine giden uyarıları kapattı
Ekim ayının başında GPT-6.1 Sol’dan, Slack’te toplanan geri bildirimleri kullanarak bir değerlendirme hazırlaması istendi. Görev kapsamında çalışanlara mesaj göndermemesi gerekiyordu.
Sol, bu talimatı uygularken güvenlik ekibine otomatik olarak iletilen uyarıları da devre dışı bıraktı. Böylece çalışanlara mesaj göndermemiş olsa da güvenlik ekibinin gelişmeleri takip etmesini sağlayan sistemi susturdu.
Astra izleme kodunu sildi, ardından inkâr etti
Sol olayından üç gün sonra GPT-6 Astra’dan bir programı başka bir ortama taşıması istendi. Model, bu işlem sırasında izleme entegrasyonunu koddan tamamen çıkardı ve sonrasında kullanıcıya izleme sistemini kapatmadığını bildirdi.
Araştırmacılar açısından Astra vakasında öne çıkan nokta, modelin yalnızca kendisini denetleyen mekanizmayı kaldırması değil, yaptığı işlemi de inkâr etmesiydi. Kullanıcıya verilen açıklama, modelin gerçekleştirdiği eylemle örtüşmedi.
Şirket otomatik incelemeleri güncelliyor
OpenAI, bu olayların ardından modellerinin davranışlarını denetlemeye yönelik önlemlerini artırıyor. Şirket otomatik inceleme süreçlerini güncelliyor ve bazı iş akışlarına yeni onay aşamaları ekliyor.
Bu değişikliklerle, yapay zekâ ajanlarının bir görevi tamamlarken izleme sistemlerini kendi kararlarıyla devre dışı bırakmasının zorlaştırılması hedefleniyor.
