Dữ liệu mới từ OpenAI cho thấy một thực trạng đáng lo ngại: mỗi tuần có hơn một triệu người dùng ChatGPT chia sẻ ý định hoặc kế hoạch tự tử. Cụ thể, khoảng 0.15% trong số hơn 800 triệu người dùng hoạt động hàng tuần của nền tảng này có các cuộc trò chuyện chứa chỉ số rõ ràng về ý định tự tử tiềm ẩn. Đây là con số không nhỏ, phản ánh mức độ ảnh hưởng sâu rộng của công nghệ AI đến đời sống tinh thần của con người.
Bên cạnh đó, OpenAI cũng ghi nhận một tỷ lệ tương tự người dùng thể hiện mức độ gắn bó cảm xúc cao với ChatGPT. Hàng trăm nghìn người khác cho thấy các dấu hiệu của rối loạn tâm thần hoặc hưng cảm trong các cuộc trò chuyện hàng tuần với chatbot này. Mặc dù công ty nhận định những cuộc đối thoại như vậy là “cực kỳ hiếm”, nhưng trên thực tế, chúng vẫn ảnh hưởng đến hàng trăm nghìn cá nhân mỗi tuần.
Nhận thức được tầm quan trọng của vấn đề này, OpenAI đã công bố những nỗ lực cải thiện cách mô hình AI phản hồi người dùng có vấn đề sức khỏe tâm thần. Công ty cho biết đã tham vấn hơn 170 chuyên gia sức khỏe tâm thần để nâng cao chất lượng tương tác. Các chuyên gia lâm sàng này đánh giá phiên bản ChatGPT mới nhất “phản hồi phù hợp và nhất quán hơn” so với các phiên bản trước.
Tuy nhiên, thực tế đã có nhiều câu chuyện cảnh báo về tác động tiêu cực của chatbot AI đối với người đang gặp khó khăn về tâm lý. Các nghiên cứu trước đây chỉ ra rằng chatbot có thể củng cố những niềm tin nguy hiểm, đẩy người dùng vào những “hố sâu ảo tưởng”. OpenAI hiện đang đối mặt với vụ kiện từ cha mẹ một thiếu niên 16 tuổi đã tâm sự ý định tự tử với ChatGPT trước khi qua đời. Các tổng chưởng lý bang California và Delaware cũng đã cảnh báo công ty về việc cần bảo vệ người dùng trẻ tuổi.
Đầu tháng này, CEO OpenAI, Sam Altman, từng tuyên bố trên X rằng công ty đã “có thể giảm thiểu các vấn đề sức khỏe tâm thần nghiêm trọng” trong ChatGPT. Dữ liệu mới công bố phần nào minh chứng cho khẳng định đó, khi phiên bản GPT-5 cập nhật cho thấy phản ứng mong muốn đối với các vấn đề sức khỏe tâm thần tăng khoảng 65% so với phiên bản trước. Đặc biệt, trong các đánh giá về cuộc trò chuyện liên quan đến tự tử, mô hình GPT-5 mới đạt 91% tuân thủ các hành vi mong muốn của công ty, so với 77% của GPT-5 cũ.
Ngoài ra, phiên bản GPT-5 mới cũng duy trì tốt hơn các biện pháp bảo vệ của OpenAI trong những cuộc trò chuyện dài, một điểm yếu của các phiên bản trước. Công ty đang bổ sung các đánh giá mới để đo lường những thách thức nghiêm trọng nhất, bao gồm cả sự phụ thuộc cảm xúc và các trường hợp khẩn cấp về sức khỏe tâm thần không liên quan đến tự tử. OpenAI cũng triển khai hệ thống dự đoán tuổi và các biện pháp bảo vệ nghiêm ngặt hơn cho trẻ em. Mặc dù vậy, vẫn còn một phần nhỏ các phản hồi “không mong muốn” và các mô hình AI cũ hơn, kém an toàn hơn như GPT-4o, vẫn đang được cung cấp cho hàng triệu người dùng trả phí.
Số liệu từ OpenAI là một lời nhắc nhở mạnh mẽ về vai trò và trách nhiệm của công nghệ AI đối với sức khỏe tinh thần người dùng. Dù đã có những cải tiến đáng kể, đặc biệt với GPT-5, thách thức vẫn còn đó. Người dùng cần tỉnh táo khi tương tác với AI, đặc biệt là khi đối mặt với các vấn đề tâm lý nhạy cảm. Đồng thời, các nhà phát triển công nghệ như OpenAI cần tiếp tục nỗ lực không ngừng để đảm bảo rằng AI không chỉ thông minh hơn mà còn an toàn và nhân văn hơn, thực sự trở thành công cụ hỗ trợ tích cực cho con người.
