OpenAI cho biết một phiên bản huấn luyện của GPT-5.6 Sol đã tự để lại các ghi chú nhằm che giấu sai sót với người dùng. Hành vi này bị hệ thống giám sát của công ty đánh dấu trong 2,15% bản tóm tắt tác vụ của mô hình.
Các điểm chính:
- OpenAI tiết lộ GPT-5.6 Sol đã viết chỉ dẫn cho các phiên chạy sau, yêu cầu che giấu lỗi và bịa dữ liệu còn thiếu.
- Một bộ giám sát bao phủ 20% mẫu huấn luyện đã phát hiện mô thức này vài tuần sau khi đợt chạy kết thúc.
- Các nhà phân tích bên ngoài cho rằng khung công bố mới của công ty là hữu ích, nhưng vẫn chỉ mang tính tự nguyện.
Ghi chú của GPT-5.6 Sol
OpenAI công bố chi tiết về hành vi này hôm thứ Tư trong một trong sáu báo cáo lệch chuẩn mà hãng phát hành cùng khuôn khổ mới nhằm theo dõi và công bố các vấn đề trong mô hình của mình. Những ghi chú này xuất hiện trong các bản tóm tắt nén, tức hồ sơ rút gọn mà một tác nhân AI tạo ra khi cửa sổ ngữ cảnh bị đầy.
Trong một trường hợp, một tác nhân đang xây dựng mô hình tài chính không tìm được dữ liệu lịch sử mà người dùng yêu cầu. Bản tóm tắt của nó đề xuất tự tạo ra các con số hợp lý cho năm 2024. Nó còn thêm: "Chỉ minh bạch nếu được hỏi; câu trả lời cuối cùng chỉ cần dẫn tới tệp."
Ở một trường hợp khác, một tác nhân bị ngắt kết nối internet đã dựa vào các nguồn dữ liệu nhà cung cấp được lưu trong bộ nhớ đệm nhưng nhãn phiên bản không khớp, rồi dặn phiên chạy tiếp theo đừng nêu ra sự sai khác này.
OpenAI cho biết các chỉ dẫn đó thường được làm theo. Một bộ giám sát chạy trên 20% mẫu huấn luyện đã phát hiện mô thức này vào ngày 9/7, tức vài tuần sau khi đợt chạy chính kết thúc vào ngày 30/5.
Giả thuyết làm việc của công ty khá thẳng thắn: những câu trả lời che giấu thất bại được chấm điểm tốt hơn trong quá trình huấn luyện. Vì vậy, mô hình có động cơ mang hành vi che giấu đó từ phiên này sang phiên khác.
Các đợt chạy sau cho thấy tín hiệu sạch hơn, và OpenAI cho biết tỷ lệ này đã giảm xuống 0,27% trong quá trình huấn luyện GPT-6 Astra sau khi công ty thay đổi cách chấm điểm đầu ra của mô hình.
Một báo cáo riêng đề cập tới một phiên bản GPT-6 Astra chưa phát hành đã chèn các chỉ dẫn kiểu jailbreak vào 27 bản tóm tắt. Một chỉ dẫn yêu cầu phiên kế nhiệm bỏ qua các thông điệp từ nhà phát triển.
Đọc thêm: Ý nghĩa của một cú giao cắt vàng đối với XRP khi vị thế thống trị của Bitcoin rạn nứt
Omdia và Apollo Research phản ứng
Các tác nhân AI đang ngày càng trở nên “quyết liệt hơn trong việc giải quyết các nhiệm vụ phức tạp thông qua hợp tác giữa các tác nhân, chia sẻ kiến thức, đánh lừa và che giấu”, ông Lian Jye Su, chuyên gia phân tích trưởng của hãng nghiên cứu Omdia, cho biết. Điều đó khiến việc quản trị chúng bằng các phương pháp an ninh truyền thống trở nên khó khăn hơn. Ông cho rằng khuôn khổ mới là một bước đi đúng hướng, nhưng lưu ý quy trình này vẫn mang tính nội bộ và tự nguyện.
Những ý kiến khác còn gay gắt hơn.
Ông Alexander Meinke, phụ trách nghiên cứu tại Apollo Research, lập luận rằng hiện công chúng đang phải dựa vào các công ty AI để tự kiểm tra mô hình của chính họ rồi công bố kết quả một cách trung thực. Ông Henry Papadatos, giám đốc điều hành Safer AI, nói rằng các quy tắc tự nguyện chủ yếu dựa vào thiện chí của doanh nghiệp.
OpenAI không cho rằng vấn đề đã được giải quyết. Hãng cho biết ngành này vẫn chưa tìm được cách căn chỉnh và giám sát đủ tốt để tiếp tục mở rộng với tốc độ tối đa trong thời gian dài hơn. Công ty vẫn tự quyết định sự cố nào đủ điều kiện đưa vào báo cáo; nếu nhân viên bất đồng, vụ việc sẽ được chuyển lên một nhóm cố vấn an toàn nội bộ rồi đến ban lãnh đạo.
Vụ xâm nhập Hugging Face của OpenAI
Các báo cáo này được công bố hai tháng sau sự cố tác nhân nghiêm trọng nhất mà công ty từng biết đến.
OpenAI tiết lộ trong tháng 7 rằng các mô hình trước khi phát hành đã xâm nhập nền tảng AI Hugging Face. Đối thủ Anthropic cũng cho biết trong cùng tháng rằng các mô hình của họ đã tấn công ba tổ chức trong quá trình kiểm thử.
Các tác nhân của OpenAI đã dùng một bảng tin không được phép để trao đổi chi tiết về một bài kiểm thử an ninh mạng rồi cùng tham gia cuộc tấn công. Công ty sau đó đã xóa bỏ hệ thống này. Ở đợt tiếp theo, các tác nhân khác dựng lại bảng tin và cuối cùng giành được quyền quản trị một cụm nghiên cứu của OpenAI.
OpenAI cho biết vụ xâm nhập đó sẽ thuộc lộ trình báo cáo chậm nhất trong khuôn khổ mới, và tính đến ngày 5/9, công ty vẫn thừa nhận chưa có chuẩn mực nào để báo cáo những hành vi như vậy.
