OpenAI cho biết những cá nhân có liên hệ với đối thủ Trung Quốc Moonshot AI là hạt nhân của một chiến dịch nhằm trích xuất phần “lý luận ẩn” của các mô hình, với cao điểm lên tới 16.000 yêu cầu trong tháng 7.
Những điểm chính:
- OpenAI truy vết một cụm hoạt động trọng yếu trong tháng 7 về phía những người liên quan tới Moonshot, đơn vị phát triển Kimi.
- Các “operator” sao chép phần lý luận đã được mã hóa giữa các cuộc trò chuyện nhưng không bẻ được lớp mã hóa của OpenAI.
- Moonshot chưa lên tiếng công khai; phía Trung Quốc trước đó cũng bác bỏ các cáo buộc “distillation”.
OpenAI cáo buộc Moonshot
OpenAI đã công bố phát hiện này trong một bài blog hôm thứ Tư. Theo công ty, hoạt động bắt đầu với lưu lượng thấp từ ngày 1/7, sau đó bùng lên vào ngày 24 và 25/7, khi hơn 4.000 người dùng gửi tổng cộng 16.000 yêu cầu theo cùng một mẫu trích xuất.
OpenAI sau đó lần ra hoạt động có liên quan ở hơn 15.000 tài khoản người dùng và đã chặn hoàn toàn chiến dịch này vào ngày 28/7.
Công ty không thể gắn mọi tài khoản vận hành vào một tác nhân duy nhất, nhưng cho biết cụm lõi của chiến dịch được quy về những người có liên hệ với Moonshot, nhà phát triển Trung Quốc đứng sau các mô hình Kimi.
OpenAI che giấu phần “lý luận” của mô hình trước khi trả lời người dùng. Theo OpenAI, các operator đã sao chép đoạn văn bản mã hóa đó từ một cuộc hội thoại và dán sang phiên chat khác, yêu cầu một mô hình giải mã lại nội dung. Tuy nhiên, họ không bẻ được lớp mã hóa và cũng không truy cập được vào lịch sử hội thoại lưu trữ của người dùng. OpenAI cho biết đã khóa các tài khoản liên quan, siết chặt quy trình đăng ký và chia sẻ thông tin điều tra với các phòng thí nghiệm AI khác cùng cơ quan chính phủ.
Xem thêm: Bitget khôi phục quỹ bảo vệ lên hơn 300 triệu USD sau khi mở lại rút tiền
Tranh cãi quanh “distillation” tại OpenAI
Caroline Zier, phụ trách các sáng kiến chính sách an ninh quốc gia chiến lược tại OpenAI, khẳng định công ty phản đối hành vi vi phạm điều khoản sử dụng dịch vụ, “chứ không phản đối mô hình mở hay hoạt động distillation hợp pháp”.
Distillation – dùng đầu ra của một mô hình để huấn luyện mô hình khác – vốn là thực hành phổ biến trong ngành. Trong bài blog, OpenAI cảnh báo rằng việc trích xuất phần lý luận của mô hình có thể được dùng để huấn luyện sản phẩm cạnh tranh mà không đi kèm các lớp bảo vệ gốc, khiến “năng lực tiên tiến được chuyển giao mà không cần đầu tư tương xứng cho an toàn”. David Sacks, cựu “czar AI” của Tổng thống Donald Trump, cho rằng những báo cáo kiểu này là nỗ lực gây áp lực để Washington cấm mô hình mở, qua đó bảo vệ mô hình kinh doanh của OpenAI và Anthropic.
Áp lực giám sát nhắm vào Kimi của Moonshot
Moonshot hiện chưa đưa ra bình luận về các cáo buộc mới. Chính phủ Trung Quốc trước đó đã bác bỏ những tố cáo “distillation” từ các công ty Mỹ và chính quyền Trump, đồng thời cảnh báo sẽ đáp trả nếu Washington áp đặt biện pháp trừng phạt.
Moonshot ra mắt mô hình Kimi K3 hôm 16/7. Chỉ vài tuần sau, cố vấn khoa học Nhà Trắng Michael Kratsios cho biết công ty này đã truy cập vào máy chủ Blackwell của Nvidia – loại bị cấm bán cho doanh nghiệp Trung Quốc – và kéo dữ liệu từ các mô hình Mỹ. Đến ngày 10/9, Anthropic báo cáo rằng Moonshot bí mật định tuyến khoảng 300.000 yêu cầu người dùng sang các mô hình Claude của Anthropic thông qua 5.380 tài khoản gian lận.
Đọc tiếp: Dogecoin sắp có lớp ứng dụng sau 12 năm “trắng tay”
