Khoa học & Đời sống

Khoa học & Công nghệ

Tin AI tuyệt đối, người dùng trả giá vì “ảo giác”

Thiên Trang (TH)

AI ngày càng thông minh nhưng cũng tiềm ẩn rủi ro lớn khi tạo ra thông tin sai lệch, khiến nhiều người dùng rơi vào bẫy “ảo giác” nguy hiểm.

tro-1.png
Một sự cố liên quan đến trợ lý AI Google Gemini đã khiến người dùng tại Mỹ hoang mang khi hệ thống tự “bịa” ra lịch họp và các mối quan hệ không tồn tại.
tro-2.png
Cụ thể, AI này đã tạo ra hàng loạt thông tin về những người xa lạ cùng các yêu cầu mua sắm kỳ lạ, dù chủ tài khoản chưa từng tiếp xúc hay nhận email liên quan.
tro-3.png
Theo điều tra nội bộ của Google, toàn bộ dữ liệu đó là sản phẩm của hiện tượng “ảo giác AI” – khi mô hình tự suy diễn và tạo thông tin sai lệch nhưng nghe có vẻ hợp lý.
tro-4.png
Thực tế cho thấy, AI càng chính xác trong phần lớn trường hợp thì những sai sót nhỏ lẻ lại càng nguy hiểm, vì người dùng dễ mất cảnh giác và tin tưởng tuyệt đối.
fe-8.png
Các chuyên gia cảnh báo đây là biểu hiện của “đầu hàng nhận thức”, khi con người có xu hướng chấp nhận thông tin do AI cung cấp mà không kiểm chứng, đặc biệt trong môi trường áp lực cao.
tro-6.png
Những hệ thống như Claude hay các AI agent tự động còn có thể chỉnh sửa dữ liệu, xóa thông tin hoặc đưa ra quyết định ngoài ý muốn nếu không được giám sát chặt chẽ.
tro-7.png
Không chỉ dừng ở sai lệch nội dung, các công cụ tự động này còn có thể gây thiệt hại thực tế như xóa dữ liệu quan trọng hoặc làm sai lệch hồ sơ cá nhân, ảnh hưởng trực tiếp đến công việc.
tro-8.png
Bài học rút ra là người dùng cần chuyển từ “tin tưởng tuyệt đối” sang “tin nhưng phải kiểm chứng”, bởi AI chỉ là công cụ hỗ trợ, không thể thay thế hoàn toàn tư duy và sự tỉnh táo của con người.
bài liên quan
#AI #ảo giác #rủi ro #thông tin sai lệch #Google Gemini #cảnh báo
Đọc tiếp

hot trend

có thể bạn quan tâm
Tin mới
back to top