Cựu nhà nghiên cứu OpenAI Nick Cammarata cho rằng khoảng 90% nơ‑ron trong các mô hình AI lớn chỉ đảm nhiệm một chức năng chủ đạo – qua đó phủ nhận một lý thuyết về “chồng chất ý nghĩa” mà chính ông từng góp phần xây dựng.
Các ý chính:
- Cammarata nói những ví dụ kinh điển về nơ‑ron “rối rắm” phần lớn đã bị đọc sai.
- Nhiều nhà nghiên cứu tên tuổi nhận định phát hiện này không làm thay đổi bức tranh tổng thể.
- Bài báo kỹ thuật hậu thuẫn cho các lập luận vẫn chưa được công bố.
“Kiểm toán” nơ-ron của Cammarata
Hiện là nhà nghiên cứu tại phòng thí nghiệm diễn giải mô hình Goodfire, Cammarata đã trình bày quan điểm ngày 15/10 trong bài luận “Neural Networks Are Already Clean”. Ông lập luận rằng phần lớn nơ‑ron trong các mô hình lên tới hàng nghìn tỷ tham số giờ đây đã có thể “đọc hiểu” được, trái ngược với kết luận từ các nghiên cứu trước. Nhận định này đang gây chia rẽ giới nghiên cứu.
Trong các cuộc “kiểm toán” ban đầu với mô hình Qwen3‑32B, Goodfire ước tính khoảng 90% cực nơ‑ron chỉ có một nhiệm vụ chính, khoảng 7% đảm nhiệm hai nhiệm vụ có liên quan và chỉ 2% đến 4% là chưa giải thích được. Phần lớn phân tích do các tác nhân AI tự động thực hiện.
Cammarata cũng xem xét lại nơ‑ron “đa nghĩa” nổi tiếng nhất của ngành – được phát hiện trong mô hình xử lý ảnh InceptionV1, từng được cho là kích hoạt đồng thời trước mặt mèo và đầu ôtô. Ông nay diễn giải đây thực chất là một bộ dò hình chữ V: các hình nhọn như mõm cáo hay ngọn lửa sẽ kích hoạt nơ‑ron, trong khi các hình tròn như chữ O lại đẩy giá trị kích hoạt theo chiều âm.
Xem thêm: Chiếc Roadster biết bay của Tesla có hợp pháp không? Chưa có câu trả lời rõ ràng trước 2028
Nanda chất vấn Cammarata
Roon, một nhân viên OpenAI dùng bút danh và cho biết là bạn thân của Cammarata, viết rằng công trình này có thể được ghi vào lịch sử khoa học như một cột mốc quan trọng. Tuy vậy, chính anh cũng thận trọng nhấn mạnh cần có các nhóm độc lập xác nhận kết quả.
Trái lại, Neel Nanda, trưởng nhóm diễn giải mô hình tại Google DeepMind, tỏ ra dè dặt hơn nhiều. Ông cho rằng bài luận thú vị nhưng “không làm thay đổi đáng kể bức tranh lớn”, đồng thời dự báo cách tiếp cận chỉ tập trung vào nơ‑ron chắc chắn sẽ có những “điểm mù” nghiêm trọng. Nanda vẫn tin hiện tượng “chồng chất” là có thực, lập luận rằng mô hình ngôn ngữ lưu trữ số lượng sự kiện lớn hơn rất nhiều so với số nơ‑ron, và hoài nghi việc kết quả trên các mô hình ảnh nhỏ có thể mở rộng sang các hệ thống lớn hơn.
Nếu Cammarata đúng, các nhà nghiên cứu có thể tìm dấu hiệu gian dối hay hành vi nguy hiểm trực tiếp trong mạch nội bộ của mô hình, thay vì dựa vào “chuỗi suy nghĩ” – thứ ngày càng bị nghi ngờ về độ tin cậy. Tuy nhiên, bài báo kỹ thuật đi kèm vẫn chưa được công bố và Goodfire, với tư cách một công ty chuyên về diễn giải mô hình, rõ ràng có lợi ích gắn chặt với luận điểm này.
Bài luận cũng đánh dấu cú “quay xe” khá gắt của Cammarata. Năm 2020, ông đồng tác giả bài “Zoom In” cùng Chris Olah, công trình đã giới thiệu những mạch nơ‑ron đầu tiên được diễn giải như là bằng chứng cho hiện tượng chồng chất – ý tưởng cho rằng khi thiếu nơ‑ron, mạng nơ‑ron sẽ “nhồi” các khái niệm chẳng liên quan vào chung một nơ‑ron. Ba năm sau, một dự án tự động hóa diễn giải mô hình do ông khởi xướng tại OpenAI chỉ tìm được khoảng 1,7% nơ‑ron là có thể hiểu được, ngay cả theo thước đo dễ dãi nhất.
Đọc tiếp: ChatGPT vượt điểm Claude Haiku 5.5 trong bài test 3–2, nhưng thua về tư vấn cá nhân hóa
