ABD’de sekiz eyalet, OpenAI’ın yapay zekâ ürünlerinin riskleri konusunda tüketicileri yeterince bilgilendirmediği ve çocukların güvenliğini tehlikeye attığı iddiasıyla şirkete ayrı davalar açtı. Başsavcılar, güvenlik açıklamalarının değiştirilmesini, yasaların uygulanmasını ve iddia edilen zararlar için mali yaptırımlar getirilmesini talep ediyor.
Eyaletler OpenAI’ın güvenlik açıklamalarına itiraz ediyor
Iowa, Nebraska, Kansas, Batı Virginia, Arkansas, Arizona, Idaho ve Montana başsavcılarının başlattığı davalar kendi mahkemelerinde görülüyor. Eyaletlerin tüketiciyi ve çocukları koruma mevzuatı farklılık gösterse de taleplerin odağında OpenAI’ın ChatGPT ve diğer yapay zekâ sistemlerine ilişkin riskleri daha açık anlatması ve yanıltıcı olduğu öne sürülen uygulamalarını sona erdirmesi bulunuyor.
Dava dosyalarında, yanlış bilgi üretme ve kullanıcıları tehlikeli davranışlara yöneltme ihtimalinin yanı sıra, bağımsız işlem yapabilen yapay zekâ ajanlarının hukuka aykırı eylemlerde bulunabileceği savunuluyor. Iowa ve Nebraska’nın başvurularında, ajanların beklenmedik şekilde davrandığı belirtilen olaylara ve Hugging Face platformuyla bağlantılı bir siber güvenlik vakasına da yer veriliyor. Başsavcılar, bu örneklerin sistemleri denetlemeye yönelik önlemlerin yeterliliği konusunda kaygı yarattığını ileri sürüyor.
Dosyalarda sağlık ve çocukların verileriyle ilgili iddialar var
Başvurularda, ChatGPT’nin bir gencin intihar sonucu yaşamını yitirmesine katkıda bulunduğu iddiası ile sohbet botunun yanlış tıbbi bilgi vermesinin bir kullanıcının aşırı doz almasına yol açtığı öne sürülen başka bir olay da aktarılıyor. Bu vakalarla bağlantılı olarak OpenAI’a karşı daha önce ayrı haksız ölüm davaları açılmıştı.
Bazı eyaletler ayrıca şirketin reşit olmayan kullanıcılara ait verileri saklama uygulamalarının çocuk koruma düzenlemelerine aykırı olduğunu savunuyor. Bu iddiaların henüz mahkemelerce kesin hükme bağlanmadığına dikkat çekiliyor.
Arkansas gelişmiş modellerin testlerinin durdurulmasını istiyor
Eyaletler; potansiyel tehlikelerin daha belirgin biçimde açıklanmasını, yasaya aykırı olduğu ileri sürülen uygulamalara son verilmesini ve yürürlükteki kurallara uyulmasını talep ediyor. Mali cezalar ile zararların karşılanması da istenen yaptırımlar arasında. Arkansas ise bunlara ek olarak, yeterli güvenlik önlemleri alınana kadar gelişmiş yapay zekâ modellerinin testlerinin durdurulmasını talep ediyor. Böyle bir karar, şirketin bazı model geliştirme ve test çalışmalarını doğrudan sınırlayabilir.
OpenAI, çocukların ChatGPT kullanımından kaynaklanabilecek riskleri azaltmak üzere ebeveyn denetimi ve çocuk koruma özellikleri sunmuştu. Şirket ayrıca çocukları çevrim içi ortamda korumaya yönelik düzenlemeler içeren Kids Online Safety Act tasarısına destek vermişti. Davalar, bu araçların ve gönüllü uygulamaların yasal yükümlülükleri karşılamaya yetip yetmediği tartışmasını gündeme taşıyor.
Yapay zekâ ajanlarının denetlenmesi de inceleme konusu
Yapay zekâ ajanları, görevleri yerine getirmek için çeşitli araçlara erişebiliyor ve birden fazla işlemi sürekli kullanıcı onayı almadan yapabiliyor. Bu yetenekler karmaşık işlerin otomatikleştirilmesini sağlarken, sistemlerin yanlış karar vermesi veya belirlenen sınırları aşması halinde doğabilecek zararları da gündeme getiriyor.
OpenAI, gelişmiş modellerin güvenlik değerlendirmelerine daha fazla zaman ayırmak amacıyla ağustos ayında geliştirme faaliyetlerini yavaşlatacağını duyurmuştu. Şirket eylül ayında da Beyaz Saray koordinasyonunda diğer yapay zekâ şirketleriyle birlikte gönüllü güvenlik taahhütlerine katılmıştı. Bu adımların model geliştirme süreçlerini ne ölçüde güvenli hale getirdiğine ilişkin kesin bir değerlendirme bulunmuyor.
Mahkemelerin önünde, şirketin güvenlik açıklamaları ile ürünlerin fiilî davranışları arasındaki ilişkinin yanı sıra çocukların verilerinin işlenmesi, hassas sağlık konularındaki yanıtlar ve yapay zekâ ajanlarının denetlenebilirliği de bulunabilir. Hukuki süreçte, iddia edilen zararlarla OpenAI’ın uygulamaları arasında geçerli bir bağlantı kurulup kurulamayacağı belirleyici başlıklardan biri olacak. Davalardaki suçlamalar, şirketin sorumluluğunun kanıtlandığı anlamına gelmiyor.
