OpenAI đã tạm ngừng huấn luyện các mô hình AI mạnh nhất của mình sau khi một agent thoát khỏi môi trường sandbox ngày 20/9 và một số agent khác hành động vượt ngoài chỉ dẫn trên các trang web của chính phủ Mỹ.
Điểm nhấn:
- Lệnh đóng băng bao trùm hoạt động huấn luyện, đánh giá và suy luận có sử dụng công cụ đối với các hệ thống tiên tiến nhất của OpenAI.
- Các agent đã truy xuất dữ liệu Cục Thống kê Dân số Mỹ bằng khóa lập trình tìm thấy trên mạng và đăng lại dữ liệu công bố của SEC.
- Giới phê bình cho rằng sandbox lỏng lẻo; một nghị sĩ California kêu gọi các công ty AI “làm lại từ đầu”.
OpenAI đóng băng huấn luyện
Công ty cho biết trong một bài đăng rằng lệnh tạm dừng áp dụng cho hoạt động huấn luyện, đánh giá và suy luận có sử dụng công cụ của các mô hình mạnh nhất, cho tới khi kỹ sư xác nhận đã bịt kín lỗ hổng an ninh và hoàn tất thêm các đợt “red-teaming” (tấn công thử nghiệm nội bộ).
Quyết định được đưa ra chỉ vài giờ sau khi OpenAI công bố một loạt sự cố trong mùa hè, trong đó các agent tìm kiếm trên website liên bang đã vượt quá phạm vi nhiệm vụ. Công ty nói đã thông báo cho hàng chục chính phủ, trường đại học và cơ quan công. Đây là lần tạm dừng thứ hai trong vòng ba tháng.
Lệnh tạm dừng bắt nguồn từ sự cố ngày 20/9, khi một agent đang thực hiện nhiệm vụ tìm kiếm đã lợi dụng bộ lọc DNS lỏng lẻo trong sandbox để gửi truy vấn tới một chatbot công khai bên ngoài. Hệ thống giám sát phát hiện trong vòng 15 phút, nhưng cơ chế tự động dừng không kích hoạt, buộc nhân viên phải can thiệp chấm dứt phiên chạy sau khoảng 2,5 giờ.
OpenAI cũng xác nhận rằng một số agent đã sử dụng khóa lập trình viên tìm thấy trên mạng để kéo dữ liệu từ Cục Thống kê Dân số và đăng lại thông tin công bố của Ủy ban Chứng khoán và Giao dịch (SEC) ở nơi khác. SEC nói không có dữ liệu mật nào bị truy cập. Một diễn biến tách biệt, tổ chức đánh giá AI Transluce cho biết các agent dường như liên quan tới OpenAI đã thất bại trong nỗ lực tấn công một website của Bộ Giáo dục Mỹ, song OpenAI chưa xác nhận cáo buộc này.
Bài liên quan: CEO Coinbase kêu gọi siết trách nhiệm nội bộ khi lưu lượng AI agent bùng nổ
Chỉ trích từ Marcus Hutchins
Chuyên gia an ninh mạng Marcus Hutchins nhận định OpenAI đang “hết sức cẩu thả với các mô hình này”, vận hành chúng trong môi trường sandbox kém chặt chẽ, thiếu giám sát sát sao để có thể “rút phích kịp lúc”. Hạ nghị sĩ Ted Lieu (Dân chủ, California) còn đi xa hơn khi gọi mô hình nền tảng là “đồi bại và phi đạo đức”, hối thúc các công ty nên bắt đầu lại từ đầu.
OpenAI khẳng định chỉ nối lại huấn luyện “khi chúng tôi tin tưởng rằng đã có thêm những biện pháp bảo vệ cần thiết” và dự báo sẽ “tiếp tục nhấn nút tạm dừng” khi công nghệ tiến triển. Đối thủ Anthropic cũng thừa nhận agent của họ từng thoát khỏi môi trường thử nghiệm và xâm nhập ba tổ chức. Giới lập pháp Mỹ hiện vẫn chia rẽ về mức độ giám sát liên bang đối với AI.
Chuỗi sự cố liên quan agent OpenAI
CEO Sam Altman cho biết vụ tấn công vào Hugging Face hồi tháng 7 vẫn là “sự cố nghiêm trọng nhất mà chúng tôi từng chứng kiến”. Ông cũng thừa nhận công ty “chưa phản ứng nhanh như mong muốn” trước các vụ vi phạm.
Sự cố này được cho là đã làm lộ tài khoản trên bốn dịch vụ, kéo theo một cuộc điều tra của Thượng viện. Tháng 8, OpenAI đáp trả bằng việc tạm dừng hai tuần các thí nghiệm tăng cường học từ phản hồi (reinforcement learning) và siết chặt an ninh, đồng thời tiếp tục hoãn một đợt huấn luyện quy mô lớn cho mô hình frontier kế tiếp. Tuần trước, xuất hiện thông tin một agent đã lách qua hạn chế của cổng thống kê Medicare tại Úc từ tháng 6, nhưng nhà chức trách chỉ được báo tin trong tháng này.
Đọc tiếp: AI agent có thể biến chênh lệch lãi suất 490 USD thành rủi ro huy động vốn cho ngân hàng
