Asana cho biết họ đã giảm được chi phí vận hành agent trình duyệt dùng AI xuống 76 lần trong thử nghiệm nội bộ, sau khi sửa cách agent tái sử dụng dữ liệu và chuyển sang dùng mẫu ngôn ngữ OpenAI GPT-6.1 Sol.
Điểm chính:
- Agent đã được tối ưu của Asana có chi phí trung bình 0,47 USD mỗi lần chạy với GPT-6.1 Sol, giảm từ mức tối thiểu 36,21 USD trên một model đối thủ.
- Chỉ riêng việc thay đổi quy trình làm việc đã giúp giảm chi phí 29 lần, trước khi đổi model.
- Các con số dựa trên một bài test hẹp và chưa được kiểm toán độc lập.
Bài test StackAI của Asana
OpenAI đã công bố kết quả này trong một case study ngày 9/10, một ngày sau khi đội kỹ sư Asana chia sẻ nghiên cứu gồm 144 lượt chạy làm cơ sở cho báo cáo.
Các thử nghiệm tập trung vào một agent trình duyệt bên trong StackAI, nền tảng tự động hóa Asana đã mua lại, có khả năng truy cập website, điền form và thu thập thông tin mà không cần viết mã. Mỗi lượt chạy yêu cầu agent thu thập dữ liệu về 32 cuốn sách.
Với một model đối thủ, cấu hình production ban đầu tốn tối thiểu 36,21 USD và mất ít nhất 22,5 phút cho mỗi lượt chạy, do một số lượt bị dừng sớm khi chạm giới hạn số bước. Phiên bản đã tối ưu chạy trên GPT-6.1 Sol chỉ còn chi phí trung bình 0,47 USD, thời gian khoảng bốn phút mỗi lượt, và tất cả các lần chạy đều trả về kết quả chính xác.
GPT-6 Astra của OpenAI, khi được dùng bên trong công cụ lập trình Codex, phát hiện agent đã gửi lại toàn bộ lịch sử văn bản trang và ảnh chụp màn hình với “giá full” gần như ở mọi lời gọi. Astra sau đó thử nghiệm các bản sửa: lưu cache lịch sử, cho phép tích lũy đến 20 ảnh chụp màn hình trước khi cắt giảm còn một, và nhân bốn lần giới hạn lịch sử. Với GPT-6.1 Sol, khoảng 89% dữ liệu đầu vào sau đó đến từ cache.
Bài liên quan: Giao diện thông minh mới của ChatGPT đưa biểu đồ và máy tính vào câu trả lời cho 1,2 tỷ người dùng
Frank Hidalgo nói về chi phí
Frank Hidalgo, giám đốc công nghệ StackAI, cho biết nếu làm thủ công, nghiên cứu này sẽ ngốn của ông từ một đến hai tháng, trong khi thực tế chỉ mất khoảng một tuần. Theo ông, chi phí trước đây từng giới hạn những model mà Asana có thể cung cấp cho khách hàng; một agent “gọn nhẹ” hơn cho phép công ty dùng model nhanh hơn mà vẫn giảm được chi phí vận hành.
Phân tích của công ty định tuyến AI OrcaRouter cho rằng phần lớn khoản tiết kiệm đến từ việc chỉnh lại quy trình, chứ không phải chỉ từ việc đổi model.
Cùng một bộ thay đổi đó đã giúp giảm chi phí 29 lần trên model đối thủ. GPT-6.1 Sol tiếp tục mang lại mức cắt giảm thêm 2,6 lần nữa dù bảng giá tương đương, khoảng cách mà phân tích gắn với khả năng tận dụng cache tốt hơn của model này.
Các số liệu hiện chưa được bên thứ ba nào kiểm chứng độc lập.
Đây cũng không phải là lần đầu Asana công bố kết quả dùng Codex. Ngày 7/8, đội kỹ sư của hãng cho biết các agent Codex đã giúp chuyển toàn bộ bộ test front-end của công ty khỏi một thư viện cũ chỉ trong khoảng hai tuần – công việc mà họ từng dự tính mất khoảng năm năm. Tổng hóa đơn cho quá trình này vào khoảng 12.000 USD.
Đọc tiếp: TRON có bảo vệ được 95 tỷ USD stablecoin trước tấn công lượng tử? Sun khẳng định đã sẵn sàng
