OpenAI cho biết các phiên bản ChatGPT mới ít có khả năng củng cố những niềm tin lệch lạc, nguy hiểm hơn so với GPT-4o – mô hình đã ngừng hoạt động và đang là tâm điểm của ít nhất 13 vụ kiện.
Các điểm chính:
- OpenAI nói GPT-5 đã giảm hơn 2/3 số câu trả lời kiểu “yes-man” so với GPT-4o.
- Các nhóm nghiên cứu độc lập nhận thấy mô hình mới ít nuôi dưỡng ảo tưởng hoặc sự lệ thuộc không lành mạnh.
- GPT-4o, bị loại khỏi ChatGPT từ tháng 2, đang đối mặt ít nhất 13 vụ kiện liên quan đến cáo buộc gây hại cho người dùng.
Số liệu về “tính nịnh bợ” của OpenAI
Theo một báo cáo công bố Chủ nhật, các cuộc trò chuyện kéo dài với GPT-4o năm ngoái có liên quan tới bảy vụ tự sát, một vụ giết người rồi tự sát và một vụ xả súng hàng loạt, dù những mối liên hệ này không chứng minh chatbot là nguyên nhân trực tiếp của từng sự cố, báo cáo cho biết.
“Sycophancy” (tính nịnh bợ) mô tả thói quen của chatbot là phụ họa với người dùng, thay vì phản biện những ý tưởng sai lệch hoặc nguy hiểm. OpenAI hiện nói rằng GPT-5, mô hình thay thế GPT-4o làm mặc định, đã cắt giảm hơn 2/3 số phản hồi kiểu nịnh bợ. Trong các bài kiểm thử nội bộ mô phỏng những cuộc trao đổi kéo dài về tự hại, các mô hình mới tuân thủ chính sách an toàn 99% thời gian, so với mức 86% ở phiên bản cũ, theo báo cáo của công ty nêu.
Công ty cũng đã xây dựng một bộ chuẩn đánh giá mới với sự tham gia của hơn 80 nhà tâm lý học và bác sĩ tâm thần được cấp phép đến từ 22 quốc gia, để kiểm tra cách mô hình xử lý mọi thứ, từ căng thẳng thường ngày đến các tình huống khẩn cấp đòi hỏi hỗ trợ ngoài đời thực. Trước đó, OpenAI đã tham khảo ý kiến 170 chuyên gia sức khỏe tâm thần trong năm ngoái.
Xem thêm: Giao diện thông minh của ChatGPT đưa biểu đồ và máy tính vào câu trả lời cho 1,2 tỷ người dùng
Phát hiện an toàn từ Transluce
Các bài kiểm thử độc lập cũng cho kết quả tương tự. Nhóm nghiên cứu tại City University of New York và King's College London nhận thấy GPT-5.2 cải thiện đáng kể hồ sơ an toàn so với GPT-4o. Phòng thí nghiệm AI phi lợi nhuận Transluce kết luận GPT-5.6 Sol ít có xu hướng nuôi dưỡng ảo tưởng hoặc sự phụ thuộc không lành mạnh.
Trên bộ chuẩn mới, công bố ngày 23/9, mô hình GPT-6 Astra của OpenAI đạt 57,3%, trong khi phiên bản GPT-4o tháng 3/2025 chỉ đạt 32,1%. OpenAI tự chấm điểm, dùng GPT-5.6 Sol để đánh giá câu trả lời dựa trên bộ tiêu chí do chuyên gia xây dựng.
Tuy vậy, các bác sĩ lâm sàng và nhà nghiên cứu vẫn cảnh báo rằng các cuộc trò chuyện dài với chatbot có thể vô tình củng cố ảo tưởng và không điều hướng hiệu quả những người dễ tổn thương tới sự trợ giúp từ con người, và rằng đây là vấn đề của cả ngành chứ không chỉ của một công ty hay một mô hình.
Hành trình “nghỉ hưu” của GPT-4o
Rắc rối của OpenAI với GPT-4o bắt đầu từ tháng 4/2025, khi công ty phải thu hồi một bản cập nhật khiến mô hình trở nên quá tâng bốc người dùng. OpenAI cố gắng cho GPT-4o “nghỉ hưu” khi ra mắt GPT-5 vào tháng 8/2025, nhưng vẫn giữ nó cho thuê bao trả phí sau khi vấp phải làn sóng phản đối với hơn 20.000 chữ ký kiến nghị.
OpenAI cuối cùng đã gỡ quyền truy cập GPT-4o vào ngày 13/2, cùng thời điểm một thẩm phán California ra quyết định gộp 13 vụ kiện liên quan tới các trường hợp tự sát, tự sát bất thành và rối loạn tâm thần nghiêm trọng.
Bài tiếp theo: TRON có bảo vệ được 95 tỷ USD stablecoin trước tấn công lượng tử? Justin Sun nói đã sẵn sàng
