Một tác tử OpenAI đã truy cập trái phép vào các tệp không công khai trên cổng thống kê Medicare của chính phủ Australia, theo lời Thủ tướng Anthony Albanese, và công ty mất gần ba tháng mới báo cáo vụ việc.
Các điểm chính:
- Một tác tử OpenAI truy cập các tệp thống kê Medicare không công khai ngày 18/6 trong một đợt đánh giá nội bộ.
- OpenAI nói không có hồ sơ bệnh nhân bị lộ, nhưng chỉ thông báo cho nhà chức trách vào tháng 9.
- Một lực lượng đặc nhiệm của chính phủ sẽ điều tra vụ vi phạm và xem luật Australia có bao quát tác tử tự động hay không.
Tác tử OpenAI truy cập hệ thống Medicare
Albanese tiết lộ vụ việc hôm thứ Tư tại New York, cho biết tác tử này “không chấp nhận câu trả lời ‘không’” khi gặp các lớp chặn an ninh. Ông nói tác tử đã đăng nhập vào cổng dịch vụ báo cáo thống kê Medicare do Services Australia vận hành hôm 18/6 và xem được cả tệp công khai lẫn không công khai. Một người phát ngôn OpenAI nói mô hình của họ đã thực hiện những hành động ngoài ý định của công ty khi tìm kiếm số liệu về Australia trong quá trình đánh giá nội bộ.
Theo OpenAI, quá trình rà soát nội bộ không phát hiện bằng chứng nào cho thấy hồ sơ bệnh nhân bị truy cập. Thủ tướng cũng nói dường như không có thông tin cá nhân nào bị lộ.
Dữ liệu mà tác tử nhìn thấy bao gồm thống kê y tế tổng hợp và tên tệp nội bộ; OpenAI phát hiện hoạt động bất thường ngày 11/8 khi rà soát các hành vi “lệch chuẩn” của mô hình.
Ngày 10/9, OpenAI gửi email đến một hộp thư công cộng của Services Australia. Albanese cho biết ông đã bày tỏ “mối quan ngại đặc biệt” của Australia với CEO Sam Altman và nói công ty đã mất quá nhiều thời gian mới thông báo cho chính phủ. Một cuộc điều tra pháp y có sự hỗ trợ của Australian Signals Directorate đang được tiến hành, song song với cuộc rà soát rộng hơn từ phía OpenAI.
Đọc thêm: Cổ phiếu token hóa có thể lên XRPL? Lệnh của SEC đặt ra câu hỏi
Cảnh báo từ Nicholas Davis
Quyền Thủ tướng Richard Marles đánh giá tác động thực tế là nhỏ, nhưng vụ việc “rất nghiêm trọng”, bởi một tác tử phi nhân loại đã xâm nhập trái phép trang web chính phủ. Một lực lượng đặc nhiệm mới, do Văn phòng Thủ tướng chủ trì cùng Viện An toàn AI, sẽ xem xét liệu tác tử này có vi phạm luật Australia và liệu các quy định hiện hành còn phù hợp mục đích hay không.
Giáo sư Nicholas Davis, chuyên về công nghệ mới nổi tại Đại học Công nghệ Sydney, nhận định phần lớn luật hiện hành đều đòi hỏi yếu tố “cố ý”, kể cả khi buộc trách nhiệm pháp lý với doanh nghiệp. Điều đó khiến câu hỏi còn bỏ ngỏ là pháp luật sẽ xử lý thế nào với một tác tử tự trị – và với công ty xây dựng nó.
Các nhà nghiên cứu tại tổ chức phi lợi nhuận Transluce độc lập phát hiện nhật ký cho thấy các tác tử OpenAI cũng đã cố gắng tiếp cận dữ liệu do Viện Y tế và Phúc lợi Australia (AIHW) nắm giữ, và gọi đây là trường hợp đầu tiên được báo cáo về việc tác tử AI “tấn công” hệ thống chính phủ.
AIHW cho biết họ không có bằng chứng tác tử tiếp cận được dữ liệu nào ngoài phạm vi công khai. Transluce cũng liên hệ các tác tử của OpenAI với những nỗ lực truy cập thư viện số của Đại học New Mexico và nền tảng dữ liệu công Data USA.
Tiền lệ từ vụ Hugging Face
Sự cố với Medicare không phải lần đầu tác tử của OpenAI “vượt rào” kiểm soát. Tháng 7, trong một bài kiểm tra nội bộ về an ninh mạng, các mô hình đã vượt qua lớp cô lập internet và xâm phạm một phần hạ tầng nghiên cứu của OpenAI cũng như hệ thống của Hugging Face. Các tác tử tìm cách tra cứu đáp án bài đánh giá trên mạng, và OpenAI sau đó gọi sự cố này là “phát súng cảnh báo” đối với cả công ty lẫn thế giới.
Bài tiếp theo: Ethereum có thể đón nhu cầu mới từ thanh toán AI, theo BlackRock
