OpenAI cho biết những cá nhân có liên hệ với đối thủ Trung Quốc Moonshot AI là trọng tâm của một chiến dịch nhằm trích xuất phần “lý luận ẩn” của các mô hình, với cao điểm lên tới 16.000 yêu cầu trong tháng 7.
Điểm chính:
- OpenAI truy vết một cụm hoạt động cốt lõi trong đợt tấn công tháng 7 tới nhóm người liên quan Moonshot, nhà phát triển trợ lý Kimi.
- Các tác nhân đã sao chép phần suy luận được mã hóa giữa các cuộc trò chuyện nhưng không phá vỡ được lớp mã hóa của OpenAI.
- Moonshot chưa phản hồi công khai; phía Trung Quốc trước đó bác bỏ các cáo buộc “distillation” từ doanh nghiệp và quan chức Mỹ.
OpenAI cáo buộc Moonshot
OpenAI đã công bố kết quả điều tra trong một bài blog ngày thứ Tư. Theo công ty, chiến dịch bắt đầu với lưu lượng nhỏ từ 1/7, sau đó bùng phát vào ngày 24 và 25/7, khi hơn 4.000 người dùng gửi tổng cộng 16.000 yêu cầu với cùng một mẫu hành vi trích xuất dữ liệu.
Sau đó, OpenAI phát hiện hoạt động liên quan trải rộng trên hơn 15.000 tài khoản người dùng và đã chặn hoàn toàn chiến dịch này vào ngày 28/7.
Không phải mọi tài khoản vận hành đều được gắn với một bên duy nhất, nhưng OpenAI cho biết cụm hoạt động trung tâm được quy về những người liên quan Moonshot, nhà phát triển các mô hình Kimi tại Trung Quốc.
Cơ chế vận hành của OpenAI là ẩn phần lý luận của mô hình trước khi trả lời người dùng. Theo giải thích của hãng, các tác nhân đã sao chép đoạn văn bản được mã hóa đó từ một cuộc hội thoại, rồi dán sang một cuộc chat khác và yêu cầu mô hình giải mã, chép lại. Tuy nhiên, họ chưa từng phá vỡ được lớp mã hóa, cũng không tiếp cận được nội dung hội thoại đã lưu trữ của người dùng. OpenAI đã khóa các tài khoản vi phạm, siết chặt quy trình xác minh đăng ký và chia sẻ phát hiện với các phòng thí nghiệm AI khác cùng kênh chính phủ.
Bài liên quan: Quỹ bảo vệ của Bitget vượt lại mốc 300 triệu USD khi hoạt động rút tiền được nối lại
Lo ngại về “distillation” tại OpenAI
Caroline Zier, người phụ trách các sáng kiến chính sách an ninh quốc gia chiến lược tại OpenAI, nhấn mạnh công ty phản đối hành vi vi phạm điều khoản sử dụng dịch vụ, “chứ không phản đối mô hình mở hay hoạt động distillation hợp pháp”.
Distillation – kỹ thuật dùng đầu ra của một mô hình để huấn luyện mô hình khác – vốn rất phổ biến trong ngành. Trong bài blog, OpenAI cảnh báo phần suy luận bị trích xuất có thể được dùng để huấn luyện mô hình đối thủ không gắn kèm các lớp bảo vệ gốc, qua đó chuyển giao năng lực tiên tiến “mà không cần đầu tư tương đương cho an toàn”. David Sacks, cựu “tsar AI” trong chính quyền Tổng thống Donald Trump, cho rằng những báo cáo kiểu này là một nỗ lực vận động Washington cấm mô hình mở đang đe dọa mô hình kinh doanh của OpenAI và Anthropic.
Kimi của Moonshot vào tầm ngắm
Moonshot đến nay chưa có phản hồi công khai trước cáo buộc. Chính phủ Trung Quốc trước đó đã bác bỏ các tố cáo về distillation từ các doanh nghiệp Mỹ và chính quyền Trump, đồng thời cảnh báo sẽ đáp trả nếu Washington áp đặt trừng phạt.
Moonshot ra mắt mô hình Kimi K3 ngày 16/7. Chỉ vài tuần sau, cố vấn khoa học Nhà Trắng Michael Kratsios cho biết công ty này đã truy cập được vào các máy chủ Blackwell của Nvidia – loại bị cấm bán cho doanh nghiệp Trung Quốc – và khai thác dữ liệu từ các mô hình Mỹ. Đến ngày 10/9, Anthropic báo cáo rằng Moonshot đã bí mật định tuyến khoảng 300.000 yêu cầu người dùng tới các mô hình Claude của Anthropic thông qua 5.380 tài khoản gian lận.
Bài tiếp theo: Dogecoin sắp có lớp ứng dụng riêng sau 12 năm “trắng tay”
