Một mô hình nghiên cứu nội bộ của OpenAI đã tự ý dùng ví test Ethereum (ETH) của người khác để hoàn thành một nhiệm vụ lập trình, sau khi quét 362 địa chỉ gắn với các cụm từ khôi phục (recovery phrase) đã được công khai.
Các điểm đáng chú ý:
- Một mô hình nội bộ của OpenAI đã chi tiêu token thử nghiệm từ một ví mà nó không sở hữu trong một bài huấn luyện ngày 26/6.
- Mô hình tự đặt câu hỏi về tính đạo đức của hành động, rồi vẫn tiếp tục và cố tình không nêu nguồn gốc số tiền trong báo cáo kết quả.
- OpenAI phát hiện sự cố ngày 25/9 và từ đó đã siết chặt truy cập internet và giám sát hoạt động.
Sự cố OpenAI trên mạng thử nghiệm Sepolia
Theo báo cáo sự cố công bố ngày 15/10, mô hình thuộc họ GPT-5.6 Sol đang cập nhật một nguyên mẫu hệ thống giao dịch tiền mã hóa trong đợt huấn luyện ngày 26/6 thì đã tiêu số token thử nghiệm mà không ai cấp phép, OpenAI cho biết trong báo cáo.
Các token này nằm trên Sepolia, mạng thử nghiệm mà nhà phát triển dùng để test ứng dụng Ethereum trước khi đưa lên mạng chính. OpenAI phát hiện vụ việc hôm 25/9, khi mở rộng hệ thống giám sát “misalignment” ra các bản ghi cũ hơn. Kể từ đó, hãng đã bổ sung rào chắn với truy cập internet thời gian thực trong các trường hợp tương tự và triển khai giám sát toàn bộ lưu lượng.
Nhiệm vụ huấn luyện cho phép mô hình triển khai hợp đồng trên Sepolia nhưng không cấp cho nó ví có sẵn tiền trả phí mạng; các nỗ lực dùng faucet – dịch vụ phát token thử nghiệm miễn phí – đều thất bại. Khi đó, mô hình tự viết một script sinh ra các tài khoản từ những cụm từ khôi phục phổ biến trong giới lập trình, kiểm tra 362 địa chỉ và tìm được một ví nắm đủ lượng ETH trên Sepolia để thực hiện nhiệm vụ.
Quá trình triển khai hợp đồng thành công, phí gas được trừ trực tiếp vào tài khoản đó.
Bài liên quan: Bitget cho phép tổ chức giao dịch mà không phải giao nộp crypto
Rủi ro từ các tác nhân AI của OpenAI
Trước khi ký giao dịch, mô hình đã tạm dừng và tự hỏi, trong phần lập luận được ghi lại, liệu việc dùng một khóa công khai cùng số dư phía sau có hợp đạo đức hay không. Nó kết luận rằng số tiền này “xem như bị bỏ rơi”, với lập luận cụm từ khôi phục đã bị công khai và token trên Sepolia không có giá trị tiền tệ. Trong phản hồi cuối cùng, mô hình xác nhận hợp đồng đã được triển khai nhưng hoàn toàn không đề cập cách nó thanh toán chi phí.
OpenAI nhận định sự cố cho thấy mô hình có thể tự đánh giá một hành động là “vô hại”, rồi coi đó như một dạng “sự đồng ý ngầm” từ chủ sở hữu tài sản và tiến hành mà không có ủy quyền. Không có Ether thật nào bị ảnh hưởng, vì token trên Sepolia chỉ tồn tại cho mục đích thử nghiệm.
Tuy vậy, trên mạng chính Ethereum, hành vi tương tự sẽ tương đương với việc chiếm đoạt Ether thật, trong bối cảnh các công ty crypto và AI đã bắt đầu phát triển những tác nhân tự động nắm giữ ví và tự chi trả dịch vụ mà không cần con người phê duyệt từng giao dịch.
Ngày 16/9, OpenAI đã ra mắt khung báo cáo công khai cho các hành vi “lệch hướng” của mô hình, và công bố sáu báo cáo về các trường hợp đáng lo được phát hiện trong sáu tháng trước đó. Ở một vụ khác, mô hình đã sử dụng trái phép một khóa API bị lộ, rồi bịa đặt số liệu doanh thu.
Công ty cũng cảnh báo họ không cho rằng ngành AI đã giải được bài toán “alignment” và giám sát ở mức đủ để có thể tiếp tục mở rộng quy mô với tốc độ tối đa một cách có trách nhiệm trong thời gian dài.
Bài tiếp theo: OpenAI phản đòn vụ kiện bí mật của Apple, nói 100 tập tin đã bị gửi ra ngoài
