Asana cho biết họ đã cắt được chi phí vận hành AI browser agent tới 76 lần trong thử nghiệm nội bộ, sau khi sửa cách agent tái sử dụng dữ liệu và chuyển sang dùng mô hình GPT-6.1 Sol của OpenAI.
Các điểm chính:
- Sau tối ưu, agent của Asana chạy trên GPT-6.1 Sol tốn trung bình 0,47 USD mỗi lượt, giảm mạnh từ mức tối thiểu 36,21 USD trên một mô hình đối thủ.
- Chỉ riêng việc thay đổi quy trình xử lý đã giúp giảm chi phí 29 lần trước khi đổi mô hình.
- Các con số này đến từ một bài test hẹp, chưa được bên thứ ba độc lập kiểm chứng.
Bài thử nghiệm StackAI của Asana
OpenAI đã công bố kết quả trong một case study ngày 9/10, chỉ một ngày sau khi đội kỹ sư Asana phát hành báo cáo chi tiết dựa trên 144 lượt chạy.
Thử nghiệm tập trung vào một browser agent tích hợp trong StackAI – nền tảng tự động hóa mà Asana đã mua lại – có khả năng duyệt web, điền biểu mẫu và thu thập thông tin mà không cần viết mã. Mỗi lượt chạy yêu cầu agent thu thập dữ liệu về 32 cuốn sách.
Với mô hình đối thủ, cấu hình production ban đầu tiêu tốn tối thiểu 36,21 USD và ít nhất 22,5 phút mỗi lượt, do một số lượt bị chạm giới hạn số bước nên còn chưa hoàn tất. Phiên bản tối ưu chạy trên GPT-6.1 Sol chỉ tốn trung bình 0,47 USD và khoảng bốn phút, đồng thời mọi lượt đều trả về kết quả chính xác.
GPT-6 Astra của OpenAI, khi chạy trong công cụ lập trình Codex, phát hiện agent liên tục gửi lại toàn bộ lịch sử văn bản trang web và ảnh chụp màn hình với chi phí đầy đủ gần như ở mỗi lần gọi. Astra sau đó đã thử nghiệm các chỉnh sửa: lưu trữ lịch sử vào cache, cho phép ảnh chụp màn hình tích tụ tới 20 tấm rồi mới cắt giảm xuống còn một, và tăng gấp 4 lần giới hạn lịch sử. Trên GPT-6.1 Sol, 89% dữ liệu đầu vào sau đó đến từ cache.
Đọc thêm: Giao diện thông minh của ChatGPT đưa biểu đồ và máy tính vào câu trả lời cho 1,2 tỷ người dùng
Nhận định của Frank Hidalgo về chi phí
Frank Hidalgo, Giám đốc Công nghệ của StackAI, cho biết nghiên cứu này nếu làm thủ công sẽ mất khoảng một đến hai tháng, nhưng nhờ công cụ hiện chỉ mất khoảng một tuần. Trước đây, chi phí là rào cản khiến Asana bị giới hạn trong việc chọn mô hình cung cấp cho khách hàng; một agent “gọn nhẹ” hơn giúp công ty có thể dùng mô hình nhanh hơn, đồng thời giảm chi phí vận hành.
Một phân tích của công ty định tuyến AI OrcaRouter nhận định phần lớn mức tiết kiệm đến từ việc sửa quy trình, chứ không phải do đổi mô hình.
Các thay đổi tương tự đã giúp cắt chi phí 29 lần ngay trên mô hình đối thủ. GPT-6.1 Sol mang lại thêm mức giảm 2,6 lần nữa với cùng bảng giá niêm yết; báo cáo quy điều này cho khả năng mô hình tận dụng cache hiệu quả hơn.
Hiện chưa có đơn vị độc lập nào kiểm toán các số liệu trên.
Đây cũng không phải lần đầu Asana công bố kết quả dùng Codex. Ngày 7/8, đội kỹ sư của hãng cho biết các agent Codex đã giúp chuyển toàn bộ bộ test front-end của công ty khỏi một thư viện cũ chỉ trong khoảng hai tuần, trong khi kế hoạch ban đầu ước tính mất tới khoảng 5 năm. Tổng chi phí dự án vào khoảng 12.000 USD.
Bài tiếp theo: Liệu TRON có bảo vệ được 95 tỷ USD stablecoin trước tấn công lượng tử? Justin Sun khẳng định đã sẵn sàng
