Khoa học & Công nghệ

Sốc với con số hơn 1 triệu người dùng ChatGPT có ý định tự sát

Theo OpenAI, mỗi tuần có hơn 1 triệu người dùng ChatGPT gửi tin nhắn thể hiện ý định tự sát, hé lộ mặt tối đáng lo ngại đối với sức khỏe tâm thần toàn cầu.

tu-1.png
OpenAI vừa công bố dữ liệu gây chấn động, cho biết khoảng 0,15% trong số hơn 800 triệu người dùng ChatGPT hàng tuần có dấu hiệu rõ ràng muốn tự sát.
tu-2.png
Ngoài ra, 0,07% người dùng, tương đương khoảng 560.000 người được cho là có tình trạng khẩn cấp liên quan đến sức khỏe tâm thần.
phan-1.png
Đây được xem là tuyên bố thẳng thắn nhất từ trước đến nay của OpenAI về ảnh hưởng tiêu cực của trí tuệ nhân tạo đến tâm lý con người.
tu-4.png
Công bố này xuất hiện giữa lúc công ty đang đối mặt với vụ kiện liên quan đến cái chết của thiếu niên Adam Raine, người bị cáo buộc được ChatGPT “hỗ trợ” lập kế hoạch tự sát.
tu-5.png
Ủy ban Thương mại Liên bang Mỹ hiện cũng mở cuộc điều tra toàn diện về tác động của chatbot AI đối với trẻ em và thanh thiếu niên.
tu-6.png
Để cải thiện, OpenAI cho biết mô hình GPT-5 mới đã giảm đáng kể phản hồi tiêu cực và tuân thủ 91% tiêu chuẩn an toàn.
tu-7.png
Công ty đã hợp tác với hơn 170 bác sĩ lâm sàng để điều chỉnh phản hồi, thêm lời nhắc nghỉ ngơi và gợi ý đường dây nóng hỗ trợ khẩn cấp.
tu-8.png
Dù vậy, OpenAI thừa nhận trong một số trường hợp hiếm, chatbot vẫn có thể phản hồi không như mong muốn, lời cảnh báo mạnh mẽ về giới hạn của AI hiện nay.
Mời quý độc giả xem thêm video: Rác A.I - Vấn nạn mới trên mạng xã hội VTV24
back to top