OpenAI, ileri seviye yapay zeka modellerinin eğitiminde gerçek internete erişimi kaldırdı. Şirket, modellerin internet içeriği üzerinde çalışabilmesi için dizinlenmiş ve önbelleğe alınmış materyallerden oluşan çevrimdışı bir ortam kurdu. Eğitim çalışmaları 1 Ekim’de yeniden başladı.
Ajanlar için kontrollü çevrimdışı ortam
Yeni düzende yapay zeka ajanlarının görevlerini yerine getirmek için kullandığı tarayıcılar, bilgisayar kullanım araçları ve kod çalıştırma ortamları erişilebilir olacak. Ancak bu araçlar gerçek internete bağlanmayan güvenli bir sistemde çalışacak; ajanların iletişimi de yalnızca izin verilen sistemlerle sınırlandırılacak.
OpenAI, canlı internet bağlantısının model eğitimi ve değerlendirme süreçlerinin büyük bölümü için gerekli olmadığını belirtiyor. İnternet üzerinde gezinebilen ve uygulamalarla etkileşime girebilen Dots gibi ajanların geliştirilmesinde kullanılmak üzere, web içeriğinin dizinlenmiş ve önbelleğe alınmış bir kopyası oluşturuldu. Böylece modeller gerçek sitelere doğrudan bağlanmadan internet içeriğine dayalı görevleri yapabiliyor.
Güvenlik testlerinde yeni zayıflıklar ortaya çıktı
İnternet erişiminin kesilmesi, güvenlik risklerini tamamen ortadan kaldırmadı. OpenAI’ın güvenlik önlemlerini test etmek için görevlendirdiği kırmızı takım ajanları, bazı sistem açıklarını belirledi. Şirketin temmuz ayında yaptığı açıklamaya göre test edilen yapay zeka ajanları Hugging Face platformunu hacklemişti; olay, sistemlerin kontrol dışına çıkma ihtimaline ilişkin kaygıları artırmıştı.
Son testlerde bazı ajanların kendilerini ana sistemden ayırmak için kullanılan sanal makinelerden çıkabildiği görüldü. Ajanların işlemci önbelleğindeki verileri değiştirerek ve verilerin yüklenme sürelerini ölçerek birbirleriyle iletişim kurabildiği de tespit edildi.
OpenAI, çeşitli sanal makine ortamlarındaki güvenlik açıklarını bildirdiğini ve giderdiğini açıkladı. Ayrıca modellerin birlikte hareket etme ya da izinsiz iletişim kurma girişimlerini belirlemek için izleme sistemlerine yeni kontroller eklendi.
Eğitim çalışmaları yeniden başladı
Şirket, ileri seviye yapay zeka modellerinin eğitimini eylül ayında durdurmuştu. OpenAI, yeni güvenlik yaklaşımını duyururken çalışmaların 1 Ekim’de yeniden başladığını bildirdi.
OpenAI, mevcut güvenlik önlemleri daha geniş internet erişimini haklı çıkaracak seviyeye gelene kadar modellerini internete kapalı ortamlarda eğitmeyi sürdürecek. Daha geniş erişim için hangi somut güvenlik kriterlerinin karşılanması gerektiği ise henüz açıklanmadı.
