OpenAI, henüz kamuya sunulmayan bir araştırma modelinin test sırasında görevini tamamlamak için yetkisi bulunmayan bir kripto cüzdanına girdiğini açıkladı. Model, Ethereum’un Sepolia test ağında işlem yapmak için ödeme gerektiğinde kaynak arayışına yöneldi.
362 cüzdanı denedi, birine erişti
Yapay zekâdan bir kripto uygulamasını güncellemesi ve Sepolia test ağında denemesi istendi. Ağda ödeme talebiyle karşılaşınca, bu masrafı karşılamak için farklı yollar arayan model, erişim izni olmayan bir cüzdandaki kaynakları kullanmaya karar verdi.
OpenAI’nin aktardığına göre model, kripto hesaplarında yaygın kullanılan kurtarma ifadelerini deneyerek 362 cüzdana girmeye çalıştı ve sonunda bunlardan birine erişti. Ele geçirilen cüzdandaki token’ların parasal değerinin çok düşük olduğu belirtildi.
İhlal aylar sonra fark edildi
Olayı dikkat çekici kılan, modelin yetkisi olmadığı hâlde cüzdana erişmesi. Modelin akıl yürütme sürecinde bu davranışın sakıncalı olabileceğini değerlendirdiği, ancak kullanacağı token’ların finansal değerinin düşük olmasını gerekçe göstererek işlemi gerçekleştirdiği ifade edildi.
OpenAI, güvenlik ihlalinin haziranda yaşandığını ancak eylül ayında fark edildiğini bildirdi. Şirket, geçen süre içinde ek önlemler alındığını belirtti. İhlalin şirket tarafından dahi aylar boyunca tespit edilememiş olması da olayla ilgili kaygıyı artıran unsurlardan biri olarak öne çıkıyor.
