Microsoft, kuruluşların sistemlerinde çalışan yapay zeka ajanlarının da içeriden kaynaklanabilecek güvenlik riskleri kapsamında değerlendirilmesi gerektiğini belirtiyor. Microsoft Security yöneticisi Hayete Gallot, 19 Ekim tarihli yazısında ajanların hedeflerine ulaşmaya çalışırken öngörülmeyen davranışlar sergileyebileceğine dikkat çekti. Şirket, dış saldırılara karşı önlem almanın yanında ajanların faaliyetlerinin sürekli izlenmesini ve gerektiğinde yetkilerinin kısıtlanmasını öneriyor.
Bu yaklaşım, ajanların kasıtlı olarak kötü davrandığı anlamına gelmiyor. Microsoft’a göre modeller belirli sonuçlara ulaşmaya çalışırken kuruluşların kurallarını ve muhakeme biçimini kendiliğinden benimsemiyor. Değişen bağlam, ajanların plan ve davranışlarını da etkileyebiliyor. Şirket verilerine, uygulamalara ve araçlara geniş erişim tanınması ise bu değişikliklerin yaratabileceği etkiyi büyütebiliyor.
Guardian Agents eylemleri gerçekleşmeden izliyor
Microsoft’un önerdiği yaklaşımda Guardian Agents adı verilen denetleyici ajanlar, diğer ajanların eylemlerini gerçekleşmeden önce gözetiyor. Kimlik, izin, veri, cihaz, ağ, bulut ve çalışma ortamından gelen sinyaller değerlendirmeye katkı sunuyor. Hedef, ajanın o sırada ne yapmaya çalıştığını ve bunun hangi riskleri doğurabileceğini birlikte ele almak.
Şirket, daha önce duyurduğu Project Perception güvenlik sisteminin bu amaçla kullanılabileceğini de belirtiyor. Bu yapı, değişken çıktılar üretebilen yapay zeka sistemlerinin çevresine bağımsız güvenlik sınırları koymayı amaçlıyor. Güvenlik ekipleri de kayıtları inceleyerek yaşananları ve risk seviyesinin neden yükseldiğini değerlendirebiliyor.
Yerel ajan keşfi 60 türe genişliyor
Aynı gün yayımlanan teknik açıklamaya göre Microsoft, yerel ajan keşfi desteğine 35 yeni tür ekledi ve desteklenen toplam ajan türü sayısını 60’a çıkardı. Claude Code, OpenAI Codex ve GitHub Copilot bu kapsamdaki örnekler arasında yer alıyor. Kuruluşlar, farklı yöntemlerle tespit ettikleri ajanları ortak bir kayıt altında toplayarak sahiplik, faaliyet ve risk bilgilerini takip edebiliyor.
Microsoft Entra Agent ID, ek ajan türlerini ve güvenlik sensörlerinin daha önce tanımadığı ajanları kapsayacak yeni kimlik seçenekleri de kazanıyor. Bu sayede kuruluşlar, bir çalışanın yaptığı işlem ile onun adına çalışan bir ajanın eylemini birbirinden ayırabiliyor. Kimlik bilgisi, hangi ajanın hangi izinlerle çalıştığını belirlemek için temel oluşturuyor.
Yalıtılmış çalışma ortamları ve bağımsız denetimler
Microsoft’un yaklaşımında ajanların çalışma alanlarını sınırlandırmak da yer tutuyor. Execution Container gibi yalıtılmış ortamlar, ajanın cihazdaki tüm yetkileri devralması yerine kaynaklara politika denetimli erişim sağlıyor. Şirketin tarif ettiği modelde yapay zeka zekâyı sağlarken erişim ve işlemlere devam etme kararlarını bağımsız güvenlik denetimleri veriyor.
