Asana 透露,在內部測試中,旗下 AI 瀏覽器代理經過數據重用機制「大翻新」,再改用 OpenAI 的 GPT-6.1 Sol 模型後,單次執行成本較原本配置大減 76 倍。
重點摘要:
- 以 GPT-6.1 Sol 運行並優化後的代理,每次平均成本約 0.47 美元,較使用競爭對手模型時、至少 36.21 美元大幅下降。
- 單靠工作流程與緩存設計的修改,未換模型前已可將成本壓低 29 倍。
- 數字僅來自單一情境測試,未經任何獨立第三方審核。
Asana StackAI 測試細節
OpenAI 在 10 月 9 日發佈一篇個案研究 報告,整理了相關測試結果;前一日,Asana 工程團隊已公開支撐該報告的 144 次測試數據。
是次測試鎖定的是 StackAI 旗下的一個瀏覽器代理。StackAI 是 Asana 收購而來的自動化平台,可在無需編碼的情況下,自動瀏覽網站、填表及收集資訊。測試中,每一次「運行」(run)都要求代理為 32 本書搜集指定資料。
使用某競爭對手大型模型、在原有正式上線配置下,代理每次運行成本至少 36.21 美元,耗時至少 22.5 分鐘,而且部分執行甚至會因觸及步驟上限而未能完成。優化後、並改用 GPT-6.1 Sol 的版本,單次運行平均成本降至約 0.47 美元,時間約 4 分鐘,且每次都能輸出正確結果。
OpenAI 旗下 GPT-6 Astra 模型,在 Codex 編碼工具環境中分析後發現,該代理幾乎在每次呼叫時,都把愈來愈龐大的網頁文字與螢幕截圖歷史原封不動重新送入模型,導致成本節節上升。Astra 其後 測試 多項修正,包括把頁面歷史內容引入緩存、將可同時保留的截圖上限定為 20 張、達標後再縮回 1 張,以及把歷史紀錄上限擴大四倍等。套用在 GPT-6.1 Sol 上後,約 89% 的輸入字元來自緩存,而非重新計費。
延伸閱讀: ChatGPT 智能介面為 12 億用戶把圖表、計算器直接放入答案
技術總監 Frank Hidalgo:由月計縮至一星期
Frank Hidalgo,StackAI 技術總監指出,以傳統手動方式,他估計要花一至兩個月才能完成這批研究工作,如今借助新工具僅用約一星期便告完成。他坦言,以往模型成本曾限制 Asana 能為客戶提供的方案組合,現時代理變得更「瘦身」高效,讓公司可以提供更高速的模型,同時壓低營運開支。
AI 路由公司 OrcaRouter 的分析則 指出,節省開支的主因在於工作流程與緩存設計優化,而非單純更換模型。
相同的流程修改,套在原本的競爭對手模型上,已可把成本壓低 29 倍;在此基礎上,再改用 GPT-6.1 Sol,才額外帶來約 2.6 倍的成本下降,而且官方牌價相同。該分析認為,差距主要來自 GPT-6.1 Sol 對緩存的利用效率較佳。
目前上述測試數據仍未有外部機構核查。
這亦非 Asana 首次公開 Codex 的應用成績。早在 8 月 7 日,Asana 工程團隊曾 披露,他們利用 Codex 代理,在約兩星期內,將公司前端測試從一個老化框架全面遷移出去——原本預計需時約五年。該次項目最終成本約 12,000 美元。

