OpenAI, uygulamaların seçenekler arasından karar seçmesine yardımcı olan Decisions API’yi 22 Ekim’de genel kullanıma açtı. GPT-6 Luna üzerine kurulan hizmet, belirli seçenekler arasında yanıt gerektiren görevlerde karar süresini ve maliyeti azaltmayı amaçlıyor.
Uygulamalar için karar seçenekleri sunuyor
Geliştiriciler, araca soruyu, olası yanıtları ve karar için gereken bilgileri veriyor. Decisions API bu girdilere dayanarak bir seçenek belirleyebiliyor, olasılık hesaplayabiliyor ya da seçenekleri puanlayabiliyor; ayrıca kararına ilişkin güven bilgisi sağlıyor.
Örneğin sistem, bir müşteri mesajını inceleyerek talebi fatura veya teknik destek ekibine yönlendirebiliyor. Bir ürün fotoğrafındaki hasarı bulup düzeyini puanlamak da kullanım örnekleri arasında yer alıyor.
OpenAI’ın açıklamasına göre araç, bu tür belirli seçenekler arasından yanıt isteyen işlerde GPT-6 Luna’nın standart kullanımına kıyasla 10 kata kadar hız sağlayabiliyor. Bu oran, modelin bütün görevleri için geçerli bir karşılaştırma değil.
Geliştiriciler metin, görsel ve düzenli veri girdileri kullanabiliyor. Tek bir istekteki soru sınırı 200’den 400’e çıkarıldı. GPT-Live bağlantısı ise sesli görüşmelerde sıradaki adımı seçmeye yardımcı oluyor.
Şirketler farklı kullanım alanlarında deniyor
Dil öğrenme uygulaması Speak, kendi testinde iki işlem arasındaki beklemenin 1,4 saniyeden 0,13 saniyeye indiğini bildirdi. Bu sonuç, şirketin denediği kullanım biçimine ait.
Box, belgeleri sınıflandırıp ilgili işlemlere yönlendirmek için; Datadog, yapay zekânın çalıştırmak istediği komutların riskini değerlendirmek için Decisions API’yi deniyor. Ramp ise yapay zekâ giderlerinin hangi işlerden kaynaklandığını belirlemek üzere hizmetten yararlanıyor.
Jev ile rekabet sürüyor
OpenAI’ın bu alandaki rakiplerinden biri TypeSafe’in Jev modeli. Bu araçlar, uygulamalarda sık tekrarlanan seçimlere odaklanıyor. TypeSafe, 14 Ekim’de Jev 1.14 sürümünü duyurdu ve görsel desteğiyle daha uzun girdiler gibi özellikleri denemeye açtı. Şirket, söz konusu özelliklerin iş süreçlerinde kullanım için kendi güvenilirlik ölçütlerini henüz karşılamadığını belirtiyor.
Hız, modelleri karşılaştırmanın tek ölçütü değil. AIMultiple, başarı puanını hız ve maliyetten ayrı hesaplıyor. Kontrol tarihinde yayımlanan listede D1 Ultra ilk, Jev 1.14 ise yedinci sırada bulunuyor.
Opper AI’ın yürüttüğü JevMan testi de karar modellerini Pac-Man oynatarak sınamayı amaçlıyor. Test, modellerin oyun sırasında art arda gelen yön seçimlerini nasıl yaptığını ölçüyor.
Ücret, girdi miktarına göre hesaplanıyor
OpenAI, Decisions API için bir milyon girdi birimi başına 0,10 dolar ücret belirledi. Metin ve diğer girdiler, “token” adı verilen küçük birimlerle ölçülüyor; yanıtlar için ayrıca ücret alınmıyor.
Dolayısıyla her karar için sabit bir bedel bulunmuyor. Kullanım ücreti, istekte yer alan bilgi miktarına göre değişiyor.
