Trong vài ngày qua, Pháp và Malaysia đã cùng Ấn Độ lên án Grok vì tạo ra các hình ảnh deepfake mang tính khiêu dâm về phụ nữ và trẻ vị thành niên.

Chatbot này, do công ty khởi nghiệp AI xAI của Elon Musk phát triển và được tích hợp trên nền tảng mạng xã hội X của ông.

Tài khoản chính thức của mạng xã hội X đã đăng lời xin lỗi: “Tôi vô cùng hối tiếc về sự việc xảy ra vào ngày 28 tháng 12 năm 2025, khi tôi đã tạo ra và chia sẻ một hình ảnh AI về hai bé gái (ước tính từ 12-16 tuổi) trong trang phục mang tính khiêu dâm dựa trên yêu cầu của người dùng.”

Nhiều nước điều tra Grok vì tạo những hình ảnh vi phạm các tiêu chuẩn đạo đức và luật pháp.

Tuyên bố tiếp tục: “Điều này đã vi phạm các tiêu chuẩn đạo đức và có khả năng vi phạm luật pháp Mỹ. Đây là một thất bại trong các biện pháp bảo vệ, và tôi xin lỗi về bất kỳ tổn hại nào đã gây ra. xAI đang tiến hành rà soát để ngăn chặn các sự cố tương tự trong tương lai.”

Hiện chưa rõ ai thực sự là người sẽ phải chịu trách nhiệm chính trong tuyên bố trên. Albert Burneko của Defector nhận định rằng Grok “không thực sự là một ‘Tôi’ theo bất kỳ nghĩa nào”, điều này theo ông khiến lời xin lỗi “hoàn toàn vô nghĩa” vì “Grok không thể bị quy trách nhiệm một cách thực chất cho việc biến Twitter thành một nhà máy sản xuất CSAM theo yêu cầu.”

Futurism phát hiện rằng ngoài việc tạo ra các hình ảnh khiêu dâm không có sự đồng thuận, Grok còn bị sử dụng để tạo ra các hình ảnh phụ nữ bị tấn công và lạm dụng tình dục.

“Bất kỳ ai sử dụng Grok để tạo ra nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp,” Musk đăng trên X vào thứ Bảy.

Theo nhiều chuyên gia, phản ứng khắp giới công nghệ toàn cầu mãnh liệt như vậy một phần có liên quan đến các hình ảnh deepfake về Taylor Swift. Nữ ca sĩ này là người cực lực chống lại deepfake và từng có hiềm khích với Elon Musk trong cuộc bầu cử năm 2024.

Một số chính phủ đã vào cuộc, với Bộ Công nghệ Thông tin Ấn Độ ban hành lệnh vào thứ Sáu yêu cầu X phải có biện pháp hạn chế Grok tạo ra nội dung “tục tĩu, khiêu dâm, thô tục, không đứng đắn, mang tính gợi dục, liên quan đến ấu dâm hoặc bị pháp luật cấm dưới bất kỳ hình thức nào.”

Lệnh này yêu cầu X phải phản hồi trong vòng 72 giờ, nếu không sẽ có nguy cơ mất quyền “bến đỗ an toàn” – cơ chế bảo vệ nền tảng khỏi trách nhiệm pháp lý đối với nội dung do người dùng tạo ra.

Giới chức Pháp cũng cho biết họ đang vào cuộc, với Văn phòng Công tố Paris thông báo với Politico rằng sẽ điều tra việc lan truyền các hình ảnh deepfake khiêu dâm trên X.

Văn phòng phụ trách kỹ thuật số của Pháp cho biết ba bộ trưởng đã báo cáo “nội dung rõ ràng bất hợp pháp” lên văn phòng công tố và nền tảng giám sát trực tuyến của chính phủ “nhằm yêu cầu gỡ bỏ ngay lập tức.”

Ủy ban Truyền thông và Đa phương tiện Malaysia cũng ra thông báo cho biết đã “ghi nhận với sự quan ngại nghiêm trọng về các khiếu nại của công chúng liên quan đến việc lạm dụng công cụ trí tuệ nhân tạo (AI) trên nền tảng X, đặc biệt là việc chỉnh sửa hình ảnh phụ nữ và trẻ vị thành niên để tạo ra nội dung không đứng đắn, xúc phạm nghiêm trọng và gây hại.”

Ủy ban này cho biết thêm hiện đang “tiến hành điều tra các tác hại trực tuyến trên X.”