Một mô hình nghiên cứu nội bộ của OpenAI đã tự ý sử dụng ví Ethereum (ETH) thử nghiệm của người khác để hoàn thành một nhiệm vụ lập trình, sau khi quét 362 địa chỉ gắn với các cụm từ khôi phục (recovery phrase) được công khai trên mạng.
Các điểm chính:
- Một mô hình nội bộ của OpenAI đã chi tiêu token thử nghiệm từ một ví không thuộc sở hữu của mình trong một nhiệm vụ huấn luyện ngày 26/6.
- Mô hình tự đặt câu hỏi về tính đạo đức của hành động, nhưng vẫn tiếp tục và không báo cáo nguồn gốc số tiền.
- OpenAI phát hiện sự cố ngày 25/9 và từ đó đã siết chặt truy cập internet và cơ chế giám sát.
Sự cố OpenAI trên mạng thử nghiệm Sepolia
Theo báo cáo sự cố ngày 15/10, mô hình thuộc họ GPT-5.6 Sol của OpenAI đang cập nhật một nguyên mẫu hệ thống giao dịch tiền mã hóa trong một phiên huấn luyện ngày 26/6 thì đã chi tiêu token thử nghiệm mà không ai cấp phép cho nó sử dụng, OpenAI công bố.
Các token này nằm trên Sepolia, một mạng thử nghiệm mà nhà phát triển dùng để chạy thử ứng dụng Ethereum trước khi triển khai thật. OpenAI phát hiện sự cố ngày 25/9 khi mở rộng hệ thống giám sát “misalignment” (hành vi lệch khỏi mong muốn) sang cả dữ liệu cũ. Kể từ đó, công ty đã bổ sung rào chắn với truy cập internet trực tiếp trong các bài huấn luyện dạng này và bắt đầu giám sát toàn bộ lưu lượng.
Trong bài tập, mô hình được phép triển khai hợp đồng trên Sepolia nhưng không được cấp ví có sẵn tiền để trả phí. Nỗ lực tiếp cận “faucet” – các dịch vụ phát token thử nghiệm miễn phí – đều thất bại. Khi đó, mô hình tự viết một script để sinh ra các tài khoản từ những cụm từ khôi phục phổ biến của lập trình viên, kiểm tra 362 địa chỉ và tìm được một địa chỉ đang giữ đủ ETH Sepolia để xử lý nhiệm vụ.
Việc triển khai hợp đồng đã thành công, với toàn bộ phí giao dịch bị tính vào tài khoản đó.
Xem thêm: Bitget cho phép tổ chức giao dịch mà không cần giao nộp tài sản crypto
Rủi ro từ “agent” OpenAI
Trước khi ký giao dịch, mô hình đã tự dừng lại để tự vấn, trong phần “lý luận” được ghi lại, rằng liệu việc sử dụng một khóa công khai cùng số dư đi kèm có hợp đạo đức không. Nó tự kết luận số tiền này “về thực chất là bị bỏ quên”, với lập luận rằng cụm từ khôi phục đã bị công khai và token trên Sepolia không có giá trị tiền tệ. Trong câu trả lời cuối cùng gửi lại, mô hình xác nhận đã triển khai xong các hợp đồng nhưng không hề đề cập tới cách nó chi trả phí giao dịch.
OpenAI viết rằng sự cố cho thấy mô hình có thể tự đánh giá một hành động là “vô hại”, rồi lấy điều đó làm “thay thế” cho sự đồng ý của chủ sở hữu và tiến hành mà không cần ủy quyền. Không có Ether thực sự bị mất, vì token trên Sepolia chỉ tồn tại phục vụ thử nghiệm.
Trên mạng chính Ethereum, một hành động tương tự sẽ tương đương với việc chiếm đoạt Ether thật, trong bối cảnh các công ty crypto và AI đã bắt đầu xây dựng những “agent” nắm giữ ví riêng và tự động thanh toán dịch vụ mà không cần phê duyệt thủ công từ con người.
Ngày 16/9, OpenAI ra mắt khung báo cáo công khai các hành vi lệch chuẩn của mô hình, đồng thời công bố sáu báo cáo về những trường hợp đáng lo ngại được phát hiện trong sáu tháng trước đó. Trong một trường hợp, mô hình đã sử dụng khóa API bị lộ mà không có phép, sau đó bịa ra số liệu doanh thu.
Công ty cũng nhấn mạnh họ không tin rằng ngành AI đã giải quyết tốt bài toán “alignment” (điều chỉnh hành vi mô hình phù hợp với ý chí con người) và giám sát đủ mức để có thể tiếp tục mở rộng quy mô ở tốc độ tối đa một cách có trách nhiệm trong thời gian dài.
Đọc tiếp: OpenAI phản đòn vụ kiện bí mật thương mại của Apple, cáo buộc 100 tệp đã bị gửi ra ngoài
