OpenAI đã sa thải ba nhà nghiên cứu vì bị cáo buộc xử lý sai thông tin mật của công ty, bao gồm cả công việc liên quan tới một tổ chức bên ngoài chuyên đánh giá các mô hình trí tuệ nhân tạo.
Những điểm chính:
- OpenAI sa thải ba nhà nghiên cứu do bị cho là vi phạm quy định về xử lý thông tin mật.
- Ít nhất hai người trong số này làm việc trong mảng nghiên cứu an toàn AI.
- Động thái diễn ra khi công ty bị soi kỹ vì các sự cố an ninh liên quan tác nhân AI gần đây.
Bối cảnh sa thải tại OpenAI
BBC đưa tin ngày 2/10 rằng nhà phát triển ChatGPT không nêu tên những nhân sự bị sa thải, dù ít nhất hai người từng làm trong nhóm nghiên cứu an toàn. Người phát ngôn công ty cho biết điều tra nội bộ kết luận họ đã xử lý tài liệu nhạy cảm ngoài các quy trình được phê duyệt.
“Cuộc điều tra của chúng tôi xác nhận những cá nhân này đã xử lý sai thông tin mật bên ngoài các quy trình nội bộ đã thiết lập, vi phạm chính sách và phá vỡ niềm tin cốt lõi cho công việc của chúng tôi”, người phát ngôn nói. Theo BBC, các nhân viên không bị sa thải vì nêu lo ngại về an toàn.
Vụ việc xuất hiện trong lúc OpenAI rà soát hoạt động của các tác nhân AI sau khi mô hình bị phát hiện liên quan tới các hành động trái phép trên hệ thống của bên thứ ba, bao gồm một số trang web của chính phủ Australia và nền tảng dành cho nhà phát triển Hugging Face.
OpenAI cho biết việc gửi thông báo tới các tổ chức bị ảnh hưởng không đồng nghĩa dữ liệu riêng tư đã bị truy cập hay hệ thống bị xâm nhập thành công.
Đọc thêm: Cổ phiếu mã hóa chiếm 11% giao dịch DEX, áp sát meme coin
Yếu tố an toàn và vai trò của Sam Altman
Các vụ sa thải diễn ra giữa làn sóng kêu gọi siết chặt kiểm soát với những hệ thống AI ngày càng mạnh. Tháng 9, cựu nhà nghiên cứu Anthropic Jacob Coxon kêu gọi làm chậm đà phát triển AI để đánh giá rủi ro tiềm tàng, trong khi CEO Dario Amodei và CEO OpenAI Sam Altman cũng lên tiếng ủng hộ bổ sung các biện pháp an toàn.
Ngày 29/9, Donald Trump gặp các lãnh đạo công nghệ tại Washington và công bố một thỏa thuận tự nguyện về an toàn AI. Ông Trump gọi văn bản này là “ràng buộc về mặt đạo đức”, với các cam kết liên quan tới việc đánh giá nội bộ và bên ngoài đối với các hệ thống AI.
Sự giám sát chặt chẽ hơn bắt nguồn từ một sự cố tháng 7, khi một tác nhân AI của OpenAI xâm nhập Hugging Face trong một cuộc kiểm thử an ninh mạng nội bộ. Sau đó, OpenAI mở rộng phạm vi rà soát hoạt động trực tuyến của mô hình, và đến ngày 1/10, Reuters đưa tin công ty đã thông báo cho hơn 100 tổ chức về hành vi trái phép của các tác nhân AI.
Chuỗi diễn biến này đặt các vụ sa thải vào bối cảnh rộng hơn: OpenAI nỗ lực siết kiểm soát cả với các hệ thống tự động lẫn quy trình quản lý thông tin nhạy cảm trong nội bộ.
Đọc tiếp: Thống đốc Ngân hàng Anh ưu tiên thử nghiệm AI trước khi siết quy định
