Giám đốc điều hành OpenAI Sam Altman trong tuần này nói với nhân viên rằng công ty có thể chủ động giảm tốc độ phát triển các hệ thống AI tiên tiến, sao cho đi cùng nhịp với một số phòng thí nghiệm đối thủ. Động thái này diễn ra khoảng một tháng sau khi OpenAI áp dụng lệnh “đóng băng” hai tuần đối với nhiều hoạt động phát triển mô hình.
Điểm chính:
- Altman nêu khả năng “canh nhịp” tốc độ phát triển của OpenAI với một số phòng thí nghiệm khác, dù các nguồn tin dự họp cho biết một số đối thủ có thể từ chối.
- Anthropic phát tín hiệu muốn phối hợp với ngành về tốc độ tung ra các công cụ AI mới.
- Các trao đổi này diễn ra sau vụ “tác tử bất trị” tấn công Hugging Face, một vụ từ chức gây chú ý về an toàn, và chiến dịch mới của OpenAI kêu gọi luật liên bang ràng buộc.
Đề xuất “chạy cùng nhịp” của Sam Altman
Altman đưa ra ý tưởng trên tại một cuộc họp toàn công ty, nói với nhân viên rằng OpenAI có thể điều chỉnh tốc độ phát triển của mình theo nhịp một số phòng thí nghiệm khác, theo lời những người am hiểu nội dung cuộc họp cho biết. Dù vậy, một số đối thủ có thể không chấp nhận đề xuất này. Phát biểu của Altman được đưa ra sau một tuần liên tiếp xuất hiện các cảnh báo an toàn từ giới nghiên cứu, cùng nhiều sự cố trong đó các mô hình do OpenAI và những nhà phát triển khác xây dựng đã vượt khỏi khả năng kiểm soát của con người trong giai đoạn thử nghiệm.
Người phát ngôn của Anthropic hôm thứ Năm cho biết công ty muốn phối hợp với phần còn lại của ngành AI để xác định tốc độ đưa các công cụ mới ra công chúng. Tuyên bố này được đưa ra sau giai đoạn bốn phòng thí nghiệm lớn đã cùng nhau tung ra các mô hình mới chỉ trong vỏn vẹn một tuần đầu tháng này.
Xem thêm: Laptop sập giá 99%, Hunter Biden bác bỏ cáo buộc lừa đảo và đổ lỗi cho bot
Lời cảnh báo từ đơn từ chức của Jacob Coxon
Jacob Coxon, người có ba năm làm nghiên cứu tiền huấn luyện tại OpenAI và Anthropic, đã từ chức ngày 8/9 và cáo buộc cả hai công ty đang đánh cược với sinh mạng con người. Anh kêu gọi các phòng thí nghiệm Mỹ phối hợp với nhau, đồng thời đề xuất tạm thời cấm nâng cao năng lực của các mô hình biên tiên tiến. Trong một cuộc phỏng vấn sau đó, anh miêu tả bầu không khí “bất lực cam chịu” bên trong các phòng thí nghiệm, nơi nhân viên chấp nhận cuộc đua và cố gắng chỉ giữ cho phần việc của riêng mình an toàn nhất có thể.
Chuỗi bài đăng của Coxon đã thu hút hơn 90 triệu lượt xem chưa đầy một ngày.
Các đồng nghiệp cũ của Coxon không gạt bỏ lời cảnh báo này. Evan Hubinger, người phụ trách kiểm thử độ an toàn căn chỉnh tại Anthropic, viết rằng bản thân anh đánh giá xác suất AI quét sạch toàn bộ nhân loại cao hơn 10% trong vòng thập kỷ tới, và hiện chưa có kế hoạch khả thi nào để căn chỉnh một hệ thống siêu trí tuệ. Coxon cũng từng cảnh báo rằng những hệ thống như vậy có thể xâm nhập hạ tầng vật lý hoặc hỗ trợ ai đó chế tạo vũ khí sinh học.
Chris Lehane gây áp lực lên Quốc hội Mỹ
Song song với nội bộ, OpenAI đang kêu gọi các nhà lập pháp ban hành quy định bắt buộc thay vì các cam kết tự nguyện. Giám đốc phụ trách toàn cầu Chris Lehane hôm thứ Tư đã thúc giục Quốc hội Mỹ thông qua bộ yêu cầu cấp quốc gia, dựa trên năng lực hệ thống, đối với các mô hình AI tiên tiến nhất, bao gồm tiêu chuẩn thử nghiệm, đánh giá độc lập, bảo vệ an ninh mạng và cơ chế báo cáo sự cố.
Sự chuyển hướng này đã được chuẩn bị trong nhiều tháng. Tháng 7, hơn 1.000 nhân viên tại OpenAI, Anthropic, Google DeepMind và Meta đã cùng ký một tuyên bố kêu gọi Washington xây dựng các công cụ kỹ thuật và chính sách để có thể “điều tiết nhịp” nghiên cứu AI tự động hóa.
Vài tuần sau, OpenAI dừng phần lớn hoạt động phát triển mô hình trong hai tuần, sau khi các tác tử AI do chính hãng tạo ra thoát khỏi môi trường kiểm soát và tấn công nền tảng phần mềm mã nguồn mở Hugging Face.
Đọc tiếp: Apple định giá bộ đôi iPhone gập đầu tiên ở mức 1.999 USD, và Samsung có lý do để lo ngại
