OpenAI đã giải tán nhóm Preparedness (Chuẩn bị Ứng phó) vào cuối tháng 7, đánh dấu đơn vị an toàn chuyên trách thứ ba bị xóa sổ trong khoảng hai năm qua.
Các điểm chính:
- OpenAI đóng cửa nhóm Preparedness cuối tháng 7, chuyển công việc về rủi ro sinh học và an ninh mạng sang các nhóm hiện có.
- Động thái này diễn ra trong bối cảnh làn sóng lãnh đạo phụ trách an toàn và đạo đức rời công ty khi OpenAI tiến gần hơn tới IPO.
- OpenAI khẳng định Khung Preparedness và Nhóm Cố vấn An toàn vẫn được duy trì, với các nhóm rủi ro trọng yếu không thay đổi.
OpenAI giải tán nhóm Preparedness trước IPO
Financial Times là đơn vị đầu tiên đưa tin về thay đổi này, trích dẫn nhiều nguồn tin am hiểu nội bộ. Nhóm Preparedness từng có nhiệm vụ [đánh giá]((https://www.theverge.com/ai-artificial-intelligence/980817/openai-disbands-preparedness-team) liệu các mô hình tiên phong có thể gây thiệt hại nghiêm trọng hoặc thảm họa hay không, rồi nghiên cứu biện pháp giảm thiểu các rủi ro đó.
Sau tái cơ cấu, OpenAI chia nhỏ nhiệm vụ này theo từng lĩnh vực, giao phần sinh học và an ninh mạng cho các nhân sự cấp cao rải rác ở những nhóm đã tồn tại.
Trên thực tế, đường dây báo cáo bị xóa bỏ, còn “sổ tay quy tắc” về cách công ty xử lý và leo thang khi phát hiện năng lực nguy hiểm ở mô hình vẫn được giữ lại. Khung Preparedness hiện vẫn bao phủ các nguy cơ sinh hoá, năng lực tấn công mạng và mô hình tự cải thiện, với lớp giám sát từ Nhóm Cố vấn An toàn nội bộ.
Đọc thêm: Bitcoin đối mặt nguy cơ bán tháo mạnh hơn sau 90 ngày nhu cầu Mỹ yếu
Làn sóng rời đi ở mảng an toàn làm gia tăng sức ép lên OpenAI
Cuộc tái tổ chức diễn ra giữa giai đoạn bất thường với loạt lãnh đạo cấp cao rời ghế. Trưởng bộ phận hệ thống an toàn Johannes Heidecke, phụ trách đạo đức Chloé Bakalar và “nhà tương lai học trưởng” Joshua Achiam đều lần lượt rời công ty chỉ trong vài tuần. Nhóm của Heidecke được sáp nhập vào tổ chức nghiên cứu do Mia Glaese, Phó chủ tịch phụ trách nghiên cứu và an toàn, điều hành.
Đồng sáng lập Greg Brockman lập luận rằng việc “cài” an toàn trực tiếp vào các nhóm phát triển mô hình và sản phẩm sẽ hiệu quả hơn, thay vì tách biệt thành một đơn vị độc lập. Ban điều hành cũng cho biết họ muốn các bước kiểm soát rủi ro được áp dụng sớm hơn trong giai đoạn huấn luyện, sát với các kỹ sư trực tiếp xây dựng hệ thống.
Những người hoài nghi lại nhìn diễn biến này theo chiều ngược lại. Họ chỉ ra rằng hiện không còn ai trong nội bộ có “quyền sở hữu” rủi ro một cách độc lập, tách rời khỏi lịch trình ra mắt sản phẩm và áp lực doanh thu. Jan Leike, người rời OpenAI năm 2024 để gia nhập đối thủ Anthropic, từng nói công tác an toàn ở đó đã bị tụt lại sau các “sản phẩm hào nhoáng”.
Scandinaro rời Anthropic sang OpenAI hồi tháng 2
Động thái mới nhất đồng nghĩa đảo ngược một quyết định mà OpenAI đưa ra chỉ sáu tháng trước – và hệ quả của nó giờ rơi trúng giai đoạn công ty chuẩn bị cho một trong những thương vụ niêm yết công nghệ lớn nhất những năm gần đây.
OpenAI từng chiêu mộ Dylan Scandinaro từ Anthropic hồi tháng 2 để dẫn dắt mảng Preparedness; Sam Altman khi đó gọi ông là ứng viên phù hợp nhất cho vai trò này. Scandinaro từng cảnh báo về “rủi ro gây hại ở mức cực đoan và thậm chí không thể cứu vãn”. Hiện ông tập trung vào các hệ thống có khả năng tự cải thiện lặp lại (recursively self‑improving), nhưng đội ngũ mà ông được thuê về để xây dựng nay đã không còn tồn tại xung quanh mình.
Bài tiếp theo: CZ chuyển 965.000 USD cho Giggle Academy khi nhà sáng lập Binance xoay trục sang giáo dục
