Asana reduziu em 76 vezes o custo do seu agente de navegação com IA em testes internos, após corrigir a forma como o sistema reaproveitava dados e migrar para o modelo GPT-6.1 Sol da OpenAI, segundo as empresas.
Principais pontos:
- O agente otimizado da Asana passou a custar, em média, US$ 0,47 por execução no GPT-6.1 Sol, ante pelo menos US$ 36,21 em um modelo concorrente.
- Apenas as mudanças no fluxo de trabalho reduziram os custos em 29 vezes, antes de qualquer troca de modelo.
- Os números vêm de um teste bastante específico e não foram auditados de forma independente.
Teste com o StackAI da Asana
A OpenAI divulgou os resultados em um estudo de caso publicado em 9 de outubro, um dia depois de os engenheiros da Asana liberarem o estudo de 144 execuções que embasa os dados.
Os testes avaliaram um agente de navegação dentro do StackAI, plataforma de automação adquirida pela Asana, que acessa sites, preenche formulários e coleta informações sem exigir código. Em cada execução, o agente era encarregado de reunir dados sobre 32 livros.
Rodando em um modelo concorrente, a configuração original em produção custava pelo menos US$ 36,21 por execução e levava ao menos 22,5 minutos, já que algumas rodadas batiam no limite de etapas antes de concluir. A versão otimizada no GPT-6.1 Sol passou a custar, em média, US$ 0,47 e cerca de quatro minutos por execução, com todas as rodadas retornando a resposta correta.
Trabalhando dentro da ferramenta de programação Codex, o GPT-6 Astra da OpenAI identificou que o agente reenviava praticamente todo o histórico de textos de páginas e capturas de tela a cada chamada, pagando o preço cheio em quase todas elas. O Astra então testou correções que passaram a armazenar em cache esse histórico, permitiram acumular até 20 capturas de tela antes de reduzir para uma e quadruplicaram o limite de histórico. No GPT-6.1 Sol, 89% da entrada passou a vir do cache.
Veja também: Interface inteligente do ChatGPT coloca gráficos e calculadoras nas respostas para 1,2B de usuários
Frank Hidalgo comenta os custos
Frank Hidalgo, diretor de tecnologia do StackAI, afirmou que a pesquisa teria levado de um a dois meses para ser feita manualmente, mas foi concluída em cerca de uma semana. Segundo ele, o custo antes limitava quais modelos a Asana podia oferecer aos clientes para esse tipo de tarefa; com um agente mais enxuto, a empresa consegue entregar um modelo mais rápido e, ao mesmo tempo, reduzir despesas operacionais.
Uma análise da OrcaRouter, empresa especializada em roteamento de modelos de IA, argumentou que a maior parte da economia veio da correção do fluxo de trabalho, e não da troca de modelo.
As mesmas mudanças cortaram o custo em 29 vezes no modelo concorrente. O GPT-6.1 Sol adicionou uma redução adicional de 2,6 vezes, mantendo o mesmo preço de tabela. A avaliação liga essa diferença à forma mais eficiente como o modelo faz uso do cache.
Nenhuma entidade externa auditou os números.
Não é o primeiro resultado público da Asana com o Codex. Em 7 de agosto, engenheiros da empresa relataram que agentes baseados em Codex migraram os testes de front-end da companhia de uma biblioteca obsoleta em cerca de duas semanas — um trabalho que eles estimavam levar mais cinco anos. A conta ficou em cerca de US$ 12 mil.
Leia a seguir: TRON consegue blindar US$ 95 bi em stablecoins contra ataques quânticos? Sun diz que sim
