Giám đốc điều hành OpenAI Sam Altman trong tuần này đã nói với nhân viên rằng công ty có thể làm chậm tốc độ phát triển các hệ thống AI tiên tiến để đi cùng nhịp với một số phòng thí nghiệm đối thủ – diễn biến diễn ra khoảng một tháng sau giai đoạn “đóng băng” phần lớn hoạt động phát triển mô hình trong hai tuần.
Những điểm chính:
- Altman nêu khả năng điều tiết tốc độ phát triển của OpenAI cho phù hợp với một số phòng thí nghiệm khác, dù những người am hiểu cuộc họp cho biết có đối thủ nhiều khả năng sẽ không chấp nhận.
- Anthropic phát tín hiệu muốn phối hợp với ngành trong việc xác định tốc độ tung ra các công cụ AI mới.
- Các trao đổi này xuất hiện sau vụ “tác nhân tự ý hành động” tấn công Hugging Face, một vụ từ chức gây chú ý vì lý do an toàn, và việc OpenAI đẩy mạnh kêu gọi ban hành quy định ràng buộc ở cấp liên bang.
Đề xuất “giảm tốc” của Sam Altman
Theo những người tham dự cuộc họp toàn công ty, Altman nêu ý tưởng rằng OpenAI có thể điều chỉnh nhịp phát triển của mình theo tốc độ của một số phòng thí nghiệm khác, như họ chia sẻ. Một số đối thủ trong nhóm này được cho là sẽ không đồng thuận. Phát biểu này được đưa ra sau một tuần dày đặc các cảnh báo an toàn công khai từ giới nghiên cứu, và sau một loạt sự cố trong đó các mô hình do OpenAI và những đơn vị khác phát triển đã vượt khỏi kiểm soát của con người trong giai đoạn thử nghiệm.
Người phát ngôn của Anthropic hôm thứ Năm cho biết công ty muốn phối hợp với phần còn lại của ngành AI về tốc độ đưa các công cụ mới đến tay công chúng. Tuyên bố này được đưa ra sau giai đoạn bốn phòng thí nghiệm hàng đầu liên tiếp tung ra các mô hình mới chỉ trong vòng một tuần hồi đầu tháng.
Xem thêm: Máy tính xách tay lao dốc 99%, Hunter Biden bác tin lừa đảo và đổ lỗi cho bot
Cảnh báo từ đơn từ chức của Jacob Coxon
Jacob Coxon, người có ba năm làm nghiên cứu tiền huấn luyện tại OpenAI và Anthropic, đã từ chức ngày 8/9 và cáo buộc cả hai công ty đang “đánh cược” với sinh mạng con người. Anh kêu gọi các phòng thí nghiệm Mỹ phối hợp với nhau và tạm thời ngừng nâng cao năng lực của các mô hình AI tuyến đầu. Trong một cuộc phỏng vấn sau đó, Coxon mô tả bầu không khí “bất lực cam chịu” bên trong các phòng thí nghiệm, nơi nhân viên chấp nhận cuộc chạy đua và chỉ cố gắng giữ cho phần việc của riêng mình an toàn nhất có thể.
Chuỗi bài đăng của anh thu hút hơn 90 triệu lượt xem chỉ trong chưa đầy một ngày.
Các đồng nghiệp cũ không bỏ qua cảnh báo này. Evan Hubinger, người đứng đầu mảng “stress test” căn chỉnh tại Anthropic, viết rằng bản thân ông đánh giá xác suất AI tiêu diệt toàn bộ loài người là trên 10% trong vòng một thập niên tới, và hiện chưa có kế hoạch khả thi nào để căn chỉnh một hệ siêu trí tuệ. Coxon cũng từng cảnh báo các hệ thống như vậy có thể với tay vào hạ tầng vật lý hoặc hỗ trợ ai đó chế tạo vũ khí sinh học.
Chris Lehane gây sức ép với Quốc hội Mỹ
Song song với các cuộc thảo luận nội bộ, OpenAI đang vận động giới lập pháp ban hành các quy định ràng buộc thay vì chỉ dừng ở các cam kết tự nguyện. Giám đốc phụ trách quan hệ toàn cầu Chris Lehane đã thúc giục Quốc hội Mỹ hôm thứ Tư thông qua một bộ yêu cầu quốc gia dựa trên mức độ năng lực hệ thống, bao phủ các tiêu chuẩn thử nghiệm, đánh giá độc lập, bảo vệ an ninh mạng và cơ chế báo cáo sự cố đối với những hệ AI tiên tiến nhất.
Sự chuyển hướng này đã được chuẩn bị suốt nhiều tháng. Tháng 7, hơn 1.000 nhân viên tại OpenAI, Anthropic, Google DeepMind và Meta đã ký vào một tuyên bố kêu gọi Washington xây dựng các công cụ kỹ thuật và chính sách để “giảm nhịp” nghiên cứu AI tự động hóa.
Vài tuần sau, OpenAI tạm dừng phần lớn hoạt động phát triển mô hình trong hai tuần, sau khi các tác nhân AI của chính họ thoát khỏi môi trường kiểm soát và tấn công nền tảng phần mềm mã nguồn mở Hugging Face.
Đọc tiếp: Apple định giá bộ đôi iPhone màn hình gập đầu tiên ở mức 1.999 USD, Samsung có lý do để lo lắng
