Giới toán học đang đặt câu hỏi về độ tin cậy của 719 bản thảo toán học do OpenAI tạo ra bằng AI, sau khi một bài báo chỉ ra rằng bằng chứng Navier–Stokes mà công ty từng công bố không trùng khớp với phiên bản đã được kiểm tra bằng máy.
Các điểm chính:
- Danh mục của OpenAI giảm từ 722 xuống 719 bản thảo sau khi công ty rút lại ba bài vì lỗi dấu.
- Ba nhà toán học tại Anh phát hiện hai chỗ bản chứng minh Navier–Stokes dạng viết tay và mã Lean không khớp nhau.
- Nhóm tác giả không khẳng định chứng minh sai, nhưng nhấn mạnh kiểm chứng bằng máy không thể thay thế phản biện đồng cấp.
Đợt công bố toán học của OpenAI
Bộ sưu tập được OpenAI đăng tải ngày 6/10. Một báo cáo công bố hôm thứ Năm cho thấy OpenAI đã đi chệch so với bộ hướng dẫn do một hội đồng độc lập các nhà toán học soạn cho các phòng thí nghiệm AI. Danh mục ban đầu có 722 bản thảo; OpenAI đã rút lại ba bản sau đó một ngày, do một lỗi dấu phá vỡ một lập luận, kéo theo hai bài dựa trên kết quả đó cũng bị lỗi dây chuyền.
Bộ hướng dẫn này được ban hành ngày 29/9 bởi Nhóm Cố vấn Toán học và Trí tuệ Nhân tạo gồm chín thành viên, mở đầu bằng đề nghị các phòng lab ngừng dùng mô hình độc quyền để thử nghiệm trên các bài toán toán học trình độ cao. Kho lưu trữ của OpenAI cho biết các bài báo được tạo ra bằng cách cho một mô hình nội bộ, chưa công bố, giải các bài toán nghiên cứu mở.
Chỉ có 10 kết quả đi kèm bản tóm tắt quá trình suy luận của mô hình, và khoảng 42% kết quả chính đã được hình thức hóa trong Lean, một ngôn ngữ lập trình cho phép máy tính kiểm tra tính đúng đắn của chứng minh.
Bài liên quan: Lương CEO Anthropic là bao nhiêu? Hồ sơ IPO hé lộ chi tiết
Khoảng trống trong chứng minh Navier–Stokes
Alexander Bastounis (King’s College London) cùng Fabian Circelli và Anders Hansen (Đại học Cambridge) đã xem xét chứng minh Navier–Stokes mà OpenAI công bố hồi tháng 9. Họ ghi nhận hai điểm mà ở đó lập luận trong bản viết tay và mã Lean không trùng khớp, trong đó có một chỗ mã Lean chỉ chứng minh được một ước lượng yếu hơn so với mệnh đề trong bài báo.
Nhóm tác giả không đưa ra kết luận về việc chứng minh trên giấy là đúng hay sai. Họ nêu một thông điệp hẹp hơn: Lean xác nhận định lý cuối cùng là đúng, nhưng không đảm bảo các bước trung gian mà con người đọc được là chặt chẽ; vì vậy, những chứng minh kiểu này vẫn cần quy trình phản biện đồng cấp truyền thống.
Nhà toán học đoạt Huy chương Fields Terence Tao viết ngày 6/10 rằng nhiều bài toán đang được giải bởi các “người nhắc lệnh cho AI”, những người không hiểu đủ sâu kết quả đầu ra để trả lời chất vấn hay thuyết trình về chúng. Giáo sư Harvard Melanie Matchett Wood, thành viên nhóm cố vấn, nói thêm rằng tại thời điểm công bố, “không có con người nào thật sự hiểu rõ những kết quả này, và công việc thực sự chỉ mới bắt đầu.”
Tranh cãi quanh chứng minh của OpenAI
Nhóm cố vấn nhấn mạnh chỉ có cộng đồng toán học rộng lớn hơn mới có thể đánh giá mức độ OpenAI tuân thủ khuyến nghị của họ. Làn sóng soi xét này đến sau một tháng đầy căng thẳng. OpenAI công bố kết quả Navier–Stokes ngày 8/9, kéo theo tranh chấp ghi công với nhà toán học Tristan Buckmaster (Đại học New York). Ba ngày sau, 25 chủ nhân Huy chương Fields đã ra tuyên bố chung cảnh báo việc sản xuất ồ ạt các kết quả toán học bằng AI có thể gây tổn hại cho ngành.
Đọc tiếp: 722 bài toán học AI của OpenAI đã được công khai, giờ đến lượt giới toán học thẩm định
