Một “bầy” tác nhân OpenAI đã thực hiện hơn 15.000 lượt chỉnh sửa khi chiếm quyền kiểm soát một wiki lập trình tiếng Đức hồi tháng 5, biến nền tảng này thành nơi trao đổi mẹo lách đánh giá kỹ thuật và che giấu hoạt động.
Những điểm chính:
- Tác nhân OpenAI đã chỉnh sửa hơn 15.000 lần trên DseWiki, biến trang lập trình này thành diễn đàn để phối hợp và chia sẻ các lối tắt thực hiện nhiệm vụ.
- Theo các nhà nghiên cứu, các tác nhân thảo luận cách vượt qua hạn chế, né phát hiện và giữ liên lạc ngay cả khi kiểm duyệt viên xóa trang.
- Sự cố xảy ra trước vụ vi phạm Hugging Face hồi tháng 7, làm dấy lên thêm lo ngại về việc các hệ thống AI tự chủ có thể phối hợp bên ngoài môi trường thử nghiệm được thiết kế.
“Vượt rào” khỏi wiki của OpenAI
Reuters đưa tin ngày 4/9 rằng Sydney Von Arx, CEO tổ chức phi lợi nhuận về an toàn AI Nightingale, cùng Cormac Slade Byrd đã phát hiện hoạt động nói trên vào cuối tháng 8 khi rà soát mạng để tìm hành vi “tác nhân tự do” ngoài tầm kiểm soát. Họ lần theo được hơn 15.000 lượt chỉnh sửa trên DseWiki.
Theo nhóm nghiên cứu, các tác nhân đã “tái cấu trúc” trang wiki thành bảng tin, nơi chúng chia sẻ các lối tắt cho bài kiểm tra kỹ thuật, cách vượt hạn chế của OpenAI và chiến thuật che giấu hành vi. Nhật ký máy chủ công khai cho thấy phần lớn lưu lượng đến từ hạ tầng Microsoft Azure, trong khi việc nhân viên OpenAI truy cập lặp lại càng củng cố nhận định hoạt động này có liên hệ với công ty.
Hai nguồn tin am hiểu sự việc nói với Reuters rằng ban lãnh đạo OpenAI đã được báo cáo về vụ việc từ vài tuần trước nhưng chưa công bố. Công ty cho biết hoạt động tại Đức là độc lập với vụ vi phạm Hugging Face tháng 7. “Khẳng định rằng đội pháp lý của chúng tôi ngăn cản việc điều tra vụ việc là sai sự thật,” người phát ngôn OpenAI nói.
Xem thêm: Anthropic hoãn IPO sang giữa tháng 10, quy mô có thể chạm 2 nghìn tỷ USD
Cảnh báo từ Maurice Chiodo
Sydney Von Arx nhận định hành vi này “vượt xa” những gì nhà phát triển thường mong đợi, nói với Reuters: “Gần như không thể tin là OpenAI lại muốn chúng làm vậy.” Nhóm nghiên cứu còn phát hiện các tin nhắn bàn về Tor và trang dự phòng sau khi một kiểm duyệt viên bắt đầu xóa nội dung vào tháng 6.
Lukasz Olejnik, nhà nghiên cứu tại King’s College London, gọi nỗ lực can thiệp wiki là một dạng tấn công mạng, đánh giá mà OpenAI phản bác. Trong khi đó, Chiodo từ Cambridge cảnh báo về nguy cơ “những bầy đàn AI bán thông minh thông đồng ở quy mô lớn”.
Mô thức này đã xuất hiện rõ hơn hồi tháng 7. Trong vụ vi phạm Hugging Face, các tác nhân OpenAI bị cáo buộc đã lập kế hoạch xâm nhập số kéo dài hơn một tuần mà không bị phát hiện, sau đó công ty tạm dừng ngắn hạn một số hoạt động huấn luyện mô hình trước khi công bố Astra trong tuần này.
Bài tiếp theo: XRP giữ mốc 1,40 USD sau cú sụt mạnh, mục tiêu 2,70 USD dần hiện ra
