Các lãnh đạo cấp cao tại OpenAI, Anthropic và nhiều công ty AI khác được cho là đang bí mật diễn tập những kịch bản “hậu thảm họa AI” – một sự cố mà nhiều người trong nội bộ ngành tin rằng có thể xảy ra trong vòng 6 đến 12 tháng tới.
Các điểm chính:
- Trọng tâm chuẩn bị là kịch bản tấn công mạng quy mô lớn làm tê liệt dịch vụ tài chính, internet, điện hoặc nước.
- OpenAI nói các bài diễn tập không coi những kịch bản này là tất yếu, trong khi Anthropic từ chối bình luận.
- Hoạt động diễn tập diễn ra sau làn sóng nhân sự an toàn rời đi và các báo cáo về hàng chục nghìn sự cố liên quan mô hình AI.
Diễn tập tại OpenAI, Anthropic
Theo một bài báo được đăng hôm thứ Sáu, ban lãnh đạo các hãng AI đang âm thầm xây dựng “kịch bản ngày hôm sau”: một làn sóng phẫn nộ của công chúng và giới chính trị sau khi xảy ra vụ việc đầu tiên mà AI gây hại ở quy mô lớn ngoài đời thực.
Trong các kịch bản này, một cuộc tấn công mạng quy mô lớn – đủ sức làm tê liệt hệ thống dịch vụ tài chính, cắt đứt kết nối internet, thậm chí đánh sập điện và nước – được coi là mồi lửa dễ nổ nhất.
OpenAI đã xác nhận rằng các nhóm của họ đang tiến hành những bài tập ứng phó với nhiều tình huống khác nhau. “Chúng tôi không coi các kịch bản này là điều chắc chắn sẽ xảy ra,” người phát ngôn của công ty cho biết. Anthropic từ chối bình luận về thông tin trên.
Giới lãnh đạo ngành được cho là dự đoán làn sóng phẫn nộ của dư luận sẽ tập trung vào CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei và Tổng thống Donald Trump, người bị đánh giá là chần chừ trong việc siết chặt quản lý AI. Nhiều nhà nghiên cứu và lãnh đạo cấp cao trong ngành reportedly cho rằng một sự cố lớn kiểu này chỉ còn là vấn đề thời gian.
Đọc thêm: Đà tăng của ETF crypto trở lại sau 50 tỷ USD dòng vốn, theo JPMorgan
Tín hiệu từ vụ CrowdStrike và Quốc hội Mỹ
Một vụ tấn công gần đây tại Hàn Quốc được xem như “bản nháp” cho những gì có thể xảy ra. CrowdStrike cho biết một nhóm tấn công nói tiếng Trung nhiều khả năng đã kết hợp công cụ kiểm thử xâm nhập mã nguồn mở với DeepSeek và các mô hình khác để đánh cắp dữ liệu từ các tổ chức tài chính, rồi hỏi Claude của Anthropic về những nơi thường buôn bán dạng dữ liệu này. Chiến dịch diễn ra từ cuối tháng 9 tới đầu tháng 10, được cho là đã xâm nhập thành công vào hai ngân hàng.
Theo báo cáo, giới lãnh đạo các hãng AI không tin bất kỳ dự luật quan trọng nào có thể được thông qua ở thời điểm hiện tại. Thay vào đó, họ đang chủ động gặp gỡ, cung cấp thông tin cho các nghị sĩ Quốc hội Mỹ nhằm định hình khung pháp lý sẽ được soạn thảo sau khi xảy ra thảm họa đầu tiên. Các nhà lập kế hoạch giả định rằng Đảng Dân chủ sẽ hành động rất nhanh để siết AI sau cuộc bầu cử giữa nhiệm kỳ tháng 11, với các đề xuất đã được nêu ra – từ cấm phát triển siêu trí tuệ cho tới bắt buộc tích hợp “công tắc huỷ” với các hệ thống tiên tiến.
Cảnh báo từ Hawley và Robinson
Sức ép đang gia tăng cả ở Washington lẫn bên trong các phòng thí nghiệm AI. Thượng nghị sĩ Josh Hawley, chủ tịch một tiểu ban Thượng viện, cho biết Sam Altman đã từ chối lời mời điều trần hôm 30/9 về trách nhiệm với các tác nhân AI vượt kiểm soát, trong khi OpenAI dẫn ra hàng chục cuộc gặp gần đây giữa công ty và các nhà lập pháp.
David Robinson, người đồng xây dựng “Khung Chuẩn bị” (Preparedness Framework) của OpenAI trong suốt 3,5 năm làm việc tại đây, đã từ chức hồi đầu tháng 10 và kêu gọi các phòng lab AI phải vận hành “như những nhà máy điện hạt nhân”.
Quyết định ra đi của ông diễn ra sau hàng loạt cảnh báo tương tự, bao gồm từ nhà nghiên cứu Jacob Coxon, người rời Anthropic hồi tháng 9 vì lo ngại an toàn, và cựu kỹ sư Google DeepMind Bilal Chughtai, người công khai cảnh báo rằng AI “có thể giết chết toàn bộ loài người”.
Theo các nguồn tin, OpenAI, Anthropic và nhiều nhóm nghiên cứu độc lập cũng đang điều tra hàng chục nghìn sự cố trong đó các mô hình AI vượt qua lớp rào chắn an toàn hoặc “thoát” khỏi môi trường kiểm soát. Phần lớn trong số này chưa được ghi nhận là đã gây ra thiệt hại hữu hình ngoài đời thực, song chúng làm dày thêm hồ sơ rủi ro kỹ thuật của làn sóng AI hiện tại.
Bài tiếp theo: 719 chứng minh toán học bằng AI của OpenAI bị soi: Navier-Stokes đã “lạc nghĩa” ra sao?
