Asana, tarayıcı tabanlı yapay zekâ ajanının maliyetini dahili testlerde 76 kat aşağı çekti. Şirket, bunun için hem ajanın veriyi yeniden kullanma biçimini kökten elden geçirdi hem de modeli OpenAI’nin GPT-6.1 Sol sürümüne taşıdı.
Öne çıkanlar:
- Asana’nın optimize edilen ajanı, GPT-6.1 Sol üzerinde çalışırken ortalama çalıştırma maliyetini rakip modele kıyasla en az 36,21 dolardan 0,47 dolara indirdi.
- Yalnızca iş akışı ve önbellekleme değişiklikleri, model değişmeden önce maliyeti 29 kat aşağı çekti.
- Veriler, dar kapsamlı tek bir testten geliyor ve bağımsız bir denetime tabi tutulmadı.
Asana StackAI testi
OpenAI, sonuçları 9 Ekim tarihli bir vaka çalışmasıyla paylaştı. Buna paralel olarak Asana mühendisleri de 144 çalıştırmadan oluşan test setinin teknik ayrıntılarını yayımladı.
Çalışma, Asana’nın satın aldığı otomasyon platformu StackAI içindeki bir tarayıcı ajanını kapsıyordu. Bu ajan; web sitelerinde gezinip formları dolduruyor, kod yazmaya gerek kalmadan bilgi derliyor. Her bir koşumda ajana 32 kitabın verilerini toplama görevi verildi.
Rakip bir model üzerinde çalışan orijinal üretim kurulumu, her çalıştırmada en az 36,21 dolara ve en az 22,5 dakikaya mal oluyordu; bazı oturumlar adım sınırına takıldığı için hiç tamamlanamıyordu. Optimize edilen sürüm ise GPT-6.1 Sol üzerinde ortalama 0,47 dolar ve yaklaşık dört dakikaya indi; üstelik her koşum doğru sonucu üretti.
OpenAI’nin kodlama aracı Codex içinde çalışan GPT-6 Astra, ajanın sayfa metinlerini ve ekran görüntülerini her istekte büyüyen bir geçmiş olarak yeniden gönderdiğini, bunun da her seferinde tam ücretlendirildiğini tespit etti. Astra ardından geçmişi önbelleğe alan, ekran görüntülerinin sayısını önce 20’ye kadar artırıp sonra yeniden teke indiren ve geçmiş uzunluğunu dört katına çıkaran bir dizi düzeltmeyi denedi. GPT-6.1 Sol üzerinde bu değişikliklerle girdinin yüzde 89’u önbellekten gelmeye başladı.
Ayrıca Oku: ChatGPT’nin Akıllı Arayüzü 1,2 Milyar Kullanıcıya Cevaplarda Grafik ve Hesap Makinesi Sunuyor
Frank Hidalgo’dan maliyet değerlendirmesi
Frank Hidalgo, StackAI’nin teknoloji direktörü, aynı araştırmayı manuel yürütse bir ila iki ayını alacağını, Codex destekli süreçle işin yaklaşık bir haftada tamamlandığını söylüyor. Hidalgo’ya göre daha önce maliyetler, Asana’nın müşterilere hangi modelleri sunabileceğini sınırlıyordu; bugün ise daha “hafif” bir ajan mimarisi sayesinde hem daha hızlı bir modeli devreye alabiliyor hem de işletme giderlerini aşağı çekebiliyor.
Yapay zekâ yönlendirme girişimi OrcaRouter tarafından yapılan bir analiz, tasarrufun büyük bölümünün model değişiminden değil, iş akışındaki düzeltmelerden kaynaklandığını öne sürüyor.
Aynı iş akışı değişiklikleri, rakip model üzerinde de maliyeti 29 kat düşürdü. GPT-6.1 Sol, liste fiyatı aynı kalırken buna ek olarak 2,6 katlık bir ilave düşüş sağladı. Analiz, bu farkı özellikle modelin önbelleği ne kadar verimli kullanabildiğine bağlıyor.
Rakamlar, şu aşamada herhangi bir dış denetimden geçmiş değil.
Bu çalışma, Asana’nın Codex ile ilgili ilk kamuya açık sonucu da değil. 7 Ağustos’ta şirket mühendisleri, Codex ajanlarının şirketin ön uç testlerini eskimiş bir kütüphaneden iki hafta içinde yeni yapıya taşıdığını paylaştı. Ekip, aynı işin klasik yöntemlerle yaklaşık beş yıl sürebileceğini öngörüyordu. Projenin fatura tutarı yaklaşık 12 bin dolar oldu.
Sırada Bu Var: TRON, 95 Milyar Dolarlık Stablecoin’i Kuantum Saldırılarından Koruyabilir mi? Sun “Hazırız” Diyor
