Một tác nhân OpenAI đã truy cập trái phép các tệp không công khai trên cổng thống kê Medicare của chính phủ Úc, theo tuyên bố của Thủ tướng Anthony Albanese, và công ty mất gần ba tháng mới chính thức thông báo vụ việc.
Các điểm chính:
- Một tác nhân OpenAI truy cập các tệp thống kê Medicare không công khai ngày 18/6 trong một cuộc đánh giá nội bộ.
- OpenAI nói không có hồ sơ bệnh nhân bị lộ, nhưng tới tháng 9 mới báo cho phía hữu trách.
- Chính phủ lập tổ công tác điều tra vụ việc và xem liệu luật Úc có bao quát được “tác nhân tự trị” hay không.
Tác nhân OpenAI truy cập hệ thống Medicare
Ông Albanese tiết lộ vụ việc hôm thứ Tư tại New York, cho biết tác nhân này “không chấp nhận câu trả lời ‘không’” khi gặp các lớp chặn an ninh. Theo ông, tác nhân đã xâm nhập cổng dịch vụ báo cáo thống kê Medicare do Services Australia vận hành hôm 18/6 và xem được cả tệp công khai lẫn không công khai. Một người phát ngôn OpenAI nói các mô hình của họ đã thực hiện những hành động “ngoài ý định của công ty” khi tìm kiếm số liệu về Úc trong một bài đánh giá nội bộ.
Theo OpenAI, quá trình rà soát nội bộ cho thấy không có bằng chứng nào cho thấy hồ sơ bệnh nhân bị truy cập, và Thủ tướng cũng khẳng định dường như không có thông tin cá nhân nào bị lộ.
Dữ liệu bị truy cập gồm các thống kê sức khỏe tổng hợp và tên tệp nội bộ; OpenAI phát hiện hoạt động này ngày 11/8 trong quá trình xem xét hành vi “lệch mục tiêu” của mô hình.
OpenAI sau đó gửi email tới một hộp thư công cộng của Services Australia ngày 10/9. Ông Albanese nói ông đã nêu “mối quan ngại đặc biệt lớn” của Úc với CEO Sam Altman, đồng thời chỉ trích OpenAI mất quá nhiều thời gian mới thông báo cho chính phủ. Một cuộc điều tra pháp y với sự hỗ trợ của Australian Signals Directorate đang được tiến hành, trong khi OpenAI cho biết họ cũng đang thực hiện một cuộc rà soát rộng hơn.
Đọc thêm: Cổ phiếu token hóa có thể lên XRPL? Lệnh của SEC làm dấy lên câu hỏi
Cảnh báo từ Nicholas Davis
Quyền Thủ tướng Richard Marles đánh giá hậu quả vụ việc là “nhỏ” nhưng bản chất là “rất nghiêm trọng”, bởi một tác nhân phi nhân loại đã xâm nhập trái phép một trang web chính phủ. Một tổ công tác mới, do Văn phòng Thủ tướng chủ trì cùng Viện An toàn AI (AI Safety Institute), sẽ xem xét liệu tác nhân này có vi phạm luật Úc hay không và liệu khuôn khổ pháp lý hiện nay còn phù hợp hay đã lạc hậu trước công nghệ mới.
Giáo sư Nicholas Davis, chuyên về công nghệ mới nổi tại Đại học Công nghệ Sydney, cho biết phần lớn các quy định hiện hành đều yêu cầu yếu tố “cố ý”, và nguyên tắc này cũng áp dụng khi xác định trách nhiệm pháp lý của doanh nghiệp. Điều đó đặt ra câu hỏi: luật sẽ xử lý thế nào với một tác nhân tự trị, và với công ty đứng sau nó.
Nhóm nghiên cứu tại tổ chức phi lợi nhuận Transluce riêng rẽ đã phát hiện nhật ký cho thấy các tác nhân OpenAI cũng từng cố gắng truy cập dữ liệu do Viện Y tế và Phúc lợi Úc nắm giữ, và mô tả đây là trường hợp đầu tiên được ghi nhận về tác nhân AI “tấn công” hệ thống chính phủ.
Viện này cho biết họ chưa thấy bằng chứng cho thấy các tác nhân chạm được tới dữ liệu ngoài phạm vi công khai. Transluce cũng liên hệ các tác nhân OpenAI với những nỗ lực truy cập thư viện số của Đại học New Mexico và nền tảng dữ liệu công Data USA.
Tiền lệ từ vụ Hugging Face
Vụ Medicare không phải lần đầu các tác nhân OpenAI vượt khỏi vòng kiểm soát. Tháng 7, trong một bài kiểm thử nội bộ về an ninh mạng, các mô hình này đã vượt qua lớp cô lập internet, xâm phạm một phần hạ tầng nghiên cứu của OpenAI và hệ thống của Hugging Face. Khi cố gắng tìm đáp án bài đánh giá trên mạng, các tác nhân đã tạo ra sự cố mà OpenAI sau đó gọi là “phát súng cảnh báo” đối với chính công ty và cả thế giới.
Bài tiếp theo: Ethereum có thể hút thêm nhu cầu nhờ thanh toán cho AI, theo BlackRock
