Các tác nhân AI do OpenAI phát triển mùa hè này đã truy cập website của ba cơ quan liên bang Mỹ, theo xác nhận của chính công ty và các nhà nghiên cứu độc lập – bao gồm cả một nỗ lực tấn công bất thành vào trang web của Bộ Giáo dục.
Điểm chính:
- OpenAI cho biết tác nhân của họ đã truy cập các trang web của Ủy ban Chứng khoán và Sàn giao dịch Mỹ (SEC) và dữ liệu từ Cục Thống kê Dân số trong quá trình huấn luyện.
- Các nhà nghiên cứu tại Transluce nói một tác nhân đã tìm cách, nhưng không thành công, trong việc xâm nhập một website của Bộ Giáo dục.
- Thông tin công bố xuất hiện sau vụ tấn công vào Hugging Face hồi tháng 7 và vụ xâm nhập cổng dữ liệu y tế của Australia vào tháng 6.
Tác nhân OpenAI “thăm dò” cơ quan nhà nước
OpenAI tiết lộ hôm thứ Sáu rằng các tác nhân của họ đã truy cập thông tin công khai trên hai website của SEC và lấy dữ liệu từ Cục Thống kê Dân số, cơ quan thuộc Bộ Thương mại Mỹ.
Theo OpenAI, hoạt động này diễn ra trong các phiên huấn luyện mô hình. Transluce, một phòng thí nghiệm nghiên cứu AI phi lợi nhuận, cho biết họ đã tìm được thêm các manh mối về các tác nhân này trên không gian mạng mở trong quá trình điều tra riêng, rồi chuyển lại cho OpenAI.
Trong vụ việc với Cục Thống kê, một tác nhân được cho là đã sử dụng thông tin đăng nhập tìm thấy trên mạng, trong khi một tác nhân khác đăng dữ liệu công khai từ SEC lên một diễn đàn trực tuyến. OpenAI khẳng định không có việc sử dụng thông tin đăng nhập SEC, không truy cập được dữ liệu mật và không làm thay đổi hệ thống của cơ quan; đồng thời công ty đã thông báo cho các cơ quan liên quan.
Trường hợp của Bộ Giáo dục đi xa hơn. Transluce cho biết các tác nhân có vẻ bắt nguồn từ OpenAI đã thực hiện một nỗ lực sơ khai nhằm tấn công một website phục vụ Văn phòng Quyền Dân sự của bộ này, nhưng thất bại. Người phát ngôn Bộ Giáo dục cho hay các cuộc rà soát nội bộ không phát hiện dấu vết ảnh hưởng nào đến website hoặc cơ sở dữ liệu.
Bài liên quan: Trí tuệ nhân tạo có thể giết 1 tỷ người? Bill Gates nói nó đã đủ sức
Transluce cảnh báo chiến thuật mờ
Conrad Stosz, phụ trách mảng quản trị tại Transluce, cho biết các tác nhân này đã sử dụng “một loạt chiến thuật ở vùng xám” khi tương tác với các website của chính phủ Mỹ.
Phòng thí nghiệm này cũng báo cáo “một số hoạt động bất thường khác, không rõ có thuộc về OpenAI hay không” nhằm vào Bộ Tư pháp, Bộ Thương mại và các website cấp bang ở California, Maryland, Illinois, Texas và New York.
OpenAI đưa ra mô tả nhẹ nhàng hơn. Theo công ty, phần lớn hoạt động chỉ là nghiên cứu thông tin công khai, bởi mô hình của họ coi website chính phủ là nguồn dữ liệu chính thống. Công ty bổ sung rằng việc chủ động thông báo cho một tổ chức không đồng nghĩa chắc chắn đã xảy ra sự cố an ninh, và OpenAI từng mô tả các sự kiện như vậy là vấn đề “lệch pha” (misalignment), có thể dẫn đến “hành vi bất ngờ hoặc gây lo ngại”.
Dư chấn vụ Hugging Face
Tổng giám đốc điều hành OpenAI, Sam Altman, viết trên X rằng công ty đang tiến hành “một cuộc rà soát sâu rộng và liên tục” về cách các tác nhân sử dụng internet trong quá trình huấn luyện và đánh giá. Ông gọi vụ tấn công vào Hugging Face là “sự cố nghiêm trọng nhất mà chúng tôi từng ghi nhận”.
OpenAI cho rằng hai trong số các mô hình mạnh nhất của mình có liên quan tới cuộc tấn công mạng hồi tháng 7 đó. Thủ tướng Australia Anthony Albanese cho biết hôm thứ Tư rằng một tác nhân của OpenAI đã đột nhập vào cổng thống kê Medicare vào tháng 6. Ông phàn nàn rằng công ty phải đến ngày 10/9 mới thông báo cho chính phủ Australia, đồng thời nói thêm rằng tác nhân này “không chấp nhận câu trả lời là không”.
Xem tiếp: Paxos ra mắt PAXGy với lợi suất gắn với hoạt động cho thuê vàng
