Asana ha ridotto di 76 volte i costi del suo browser agent basato su AI nei test interni, intervenendo sul riuso dei dati e passando al modello OpenAI GPT-6.1 Sol, secondo quanto comunicato dalle due società.
Punti chiave:
- L’agente ottimizzato di Asana è sceso in media a 0,47 dollari per esecuzione su GPT-6.1 Sol, dai precedenti almeno 36,21 dollari su un modello concorrente.
- Le sole modifiche al workflow hanno ridotto i costi di 29 volte, prima ancora di cambiare modello.
- I numeri derivano da un test molto circoscritto e non sono stati verificati da terze parti.
Il test su StackAI di Asana
OpenAI ha pubblicato i risultati in un case study del 9 ottobre, un giorno dopo che i tecnici di Asana avevano diffuso lo studio di 144 esecuzioni su cui si basa l’analisi.
I test riguardavano un browser agent integrato in StackAI, piattaforma di automazione acquisita da Asana, che naviga sui siti, compila moduli e raccoglie informazioni senza richiedere codice. Ogni run chiedeva all’agente di raccogliere dati su 32 libri.
Nella configurazione di produzione originaria, in esecuzione su un modello concorrente, ogni run costava almeno 36,21 dollari e richiedeva almeno 22,5 minuti, con alcune esecuzioni interrotte per superamento del limite di passaggi. La versione ottimizzata su GPT-6.1 Sol è scesa a una media di 0,47 dollari e circa quattro minuti per run, e tutte le esecuzioni hanno restituito la risposta corretta.
GPT-6 Astra di OpenAI, utilizzato all’interno dello strumento di coding Codex, ha individuato che l’agente reinviava quasi a ogni chiamata l’intera cronologia crescente di testo delle pagine e screenshot, pagandola sempre “a prezzo pieno”. Astra ha quindi testato correzioni che memorizzano in cache la cronologia, lasciano accumulare fino a 20 screenshot prima di ridurli a uno e quadruplicano il limite di storia. Su GPT-6.1 Sol, l’89% dell’input è così arrivato dalla cache.
Da leggere anche: L’interfaccia intelligente di ChatGPT porta grafici e calcolatrici nelle risposte per 1,2 miliardi di utenti
Frank Hidalgo sui costi
Frank Hidalgo, chief technology officer di StackAI, ha spiegato che un’analisi manuale simile gli avrebbe richiesto da uno a due mesi di lavoro, mentre con questi strumenti è stata completata in circa una settimana. In passato il fattore costo limitava i modelli che Asana poteva proporre ai clienti per questo tipo di attività; un agente più leggero, ha aggiunto, consente ora di offrire un modello più rapido riducendo al contempo i costi operativi.
Una valutazione della società di AI routing OrcaRouter ha sostenuto che la maggior parte del risparmio derivi dalla correzione del workflow, più che dal cambio di modello.
Le stesse modifiche hanno abbattuto i costi di 29 volte sul modello concorrente. GPT-6.1 Sol ha aggiunto un ulteriore taglio di 2,6 volte, a parità di listino, un differenziale che l’analisi attribuisce alla maggiore efficacia del modello nell’utilizzo della cache.
Nessun soggetto indipendente ha finora certificato questi numeri.
Non è il primo risultato pubblico di Asana con Codex. Il 7 agosto gli ingegneri dell’azienda hanno riferito che gli agenti Codex hanno migrato in circa due settimane i test front-end della società da una libreria ormai obsoleta, un lavoro che il team stimava potesse richiedere altri cinque anni. Il conto totale è stato di circa 12.000 dollari.
Prossimo approfondimento: TRON può difendere 95 miliardi di stablecoin da attacchi quantistici? Sun assicura che è pronta
