Thống đốc Ngân hàng Anh (Bank of England) Andrew Bailey cho rằng việc kiểm thử AI một cách nghiêm ngặt phải đi trước các quy định chính thức, đồng thời nhà chức trách cần giữ khả năng can thiệp khi rủi ro gia tăng.
Điểm chính
- Bailey cảnh báo rủi ro AI đang tăng, nhưng giới hoạch định chính sách cần nhận diện lỗ hổng trước khi dựng khung pháp lý hoàn chỉnh.
- Ông kêu gọi kiểm thử chặt chẽ trước và sau khi triển khai, đi kèm hàng rào an toàn rõ ràng và các điểm can thiệp đáng tin cậy của con người.
- Phát biểu này được đưa ra trong bối cảnh các tập đoàn AI lớn và chính phủ Mỹ tranh luận về kiểm soát tự nguyện, làm chậm phát triển và quy định tương lai.
Cách tiếp cận kiểm thử AI của Bailey
Bailey phát biểu rằng rủi ro AI là “thực tế và ngày càng đáng kể”, nhưng các nhà hoạch định chính sách cần xác định hệ thống có thể hỏng ở đâu trước khi quyết định cách thiết kế quy tắc. “Theo quan điểm của tôi, quy định không phải là điểm khởi đầu đúng đắn”, ông viết.
Ông lập luận xã hội cần duy trì khả năng đặt ra ranh giới cho AI tiên tiến, thông qua kiểm thử nghiêm ngặt trước và sau khi triển khai nhằm phơi bày lỗ hổng, đồng thời kiểm tra xem các biện pháp bảo vệ có đủ sức khoanh vùng sự cố hay không. Bailey nhấn mạnh không nên cấm phát triển AI vì “lợi ích tiềm năng là vô cùng lớn”.
Vương quốc Anh đã thành lập Viện An ninh AI (AI Security Institute), mà theo Bailey đang góp phần xây dựng nền tảng khoa học và kỹ thuật cho việc đảm bảo an toàn AI. “Nhưng tốc độ tiến triển cần phải nhanh hơn nữa”, ông viết. Bailey bổ sung rằng các hành vi bất ngờ của mô hình không chứng tỏ việc kiểm thử thất bại, mà ngược lại cho thấy lý do tại sao kiểm thử là điều tất yếu.
Đọc thêm: Ripple hỗ trợ CSD BR của Brazil phản chiếu sở hữu quỹ trên blockchain công khai
Tranh luận về an toàn tại OpenAI
Các công ty AI hàng đầu, gồm OpenAI và Anthropic, đang thúc đẩy siết chặt hàng rào an toàn và đánh giá rủi ro phối hợp ở tầm quốc tế, khi mối lo về những hệ thống ngày càng mạnh gia tăng. OpenAI gần đây cho biết sẽ không phát hành mô hình AI mới nhất vì lo ngại an toàn.
Tổng thống Donald Trump bác bỏ các lời kêu gọi làm chậm bước tiến của Mỹ trong cuộc đua với Trung Quốc, tuyên bố “ai thắng AI sẽ chiến thắng”. Sau cuộc họp tại Nhà Trắng ngày 29/9 với lãnh đạo các tập đoàn công nghệ lớn, Trump nói các bên đã ký một văn kiện AI “ràng buộc về mặt đạo đức”, được ông mô tả là một “hình thức bảo vệ”.
Theo thỏa thuận này, các công ty tham gia tự chịu trách nhiệm về an toàn cho công nghệ của chính họ. Cách tiếp cận của Bailey khác ở trọng tâm: ông muốn dùng kiểm thử để xác định nơi nào cần can thiệp, trước khi nhà chức trách dựng nên một cấu trúc quản lý chặt chẽ hơn quanh các hệ thống AI tiên tiến.
Cuộc tranh luận leo thang trong vài tuần gần đây khi nhà phát triển AI, chính phủ và giới quản lý tài chính cùng phải đối mặt với tốc độ nâng cấp mô hình nhanh hơn và những câu hỏi ngày càng khó về giám sát. Động thái mới nhất của Bailey diễn ra sau lời kêu gọi trong ngành về các biện pháp bảo vệ phối hợp, quyết định giữ lại một mô hình của OpenAI và nỗ lực của Nhà Trắng nhằm thúc đẩy cơ chế kiểm soát tự nguyện do doanh nghiệp dẫn dắt.
Bài tiếp theo: Altcoin chiếm 41% vị thế mở trên thị trường phái sinh, khối lượng giao ngay gấp 4 lần Bitcoin
