"Chúng tôi đang phỏng vấn TikToker Krishna Sahay, người sống sót duy nhất trong vụ xả súng trường học mới đây", Anne-Marie Green, MC của kênh CBS News, nói trong video đăng bởi TikToker Sahay. Trong một video khác, người dẫn chương trình của CNN hỏi Sahay về cách sống sót trong vụ xả súng. Cả hai video nhanh chóng thu hút hàng trăm nghìn lượt xem và trở thành hiện tượng trên mạng xã hội.
Tuy nhiên, theo Forbes, Sahay chỉ là một trong nhiều TikToker và YouTuber đang sử dụng công nghệ deepfake để tung tin giả. Nhờ hỗ trợ của AI, họ tạo MC với khuôn mặt và giọng nói giống người dẫn chương trình từ các hãng thông tấn lớn, sau đó xây dựng kịch bản giật gân, sai sự thật, nhằm câu kéo tương tác từ cộng đồng mạng. Thậm chí, nhiều video còn đóng logo của kênh tin tức, khiến người xem lầm tưởng là các nguồn tin này đã được xác thực.
Trong tuần vừa qua, phóng viên CNN - Clarissa Ward cũng là nạn nhân của deepfake khi đưa tin về tình hình ở gần biên giới giữa Gaza và Israel. Video hiển thị cảnh cô tránh tên lửa đã được chỉnh sửa âm thanh giả, gây hiểu nhầm về tình hình thực tế của cuộc xung đột. Đầu tháng 10, Gayle King, MC của chương trình CBS This Morning, bất ngờ xuất hiện trong một video được tạo bởi AI, trong đó cô giới thiệu một sản phẩm mà cô chưa bao giờ sử dụng. Trên mạng xã hội Truth Social, cựu Tổng thống Donald Trump cũng đề cập đến một video deepfake, trong đó các tuyên bố mà ông chưa từng phát biểu được trích dẫn bởi Anderson Cooper, người dẫn chương trình của CNN.
Các bản tin được dẫn bởi MC giả do deepfake tạo ra đang xuất hiện tràn lan và thường thu hút nhiều tương tác hơn nội dung đăng trên tài khoản chính chủ. Ví dụ, một video của TikToker Krishna Sahay về Margaret Brennan, người dẫn chương trình Face The Nation, đã nhận được 300.000 lượt thích. Trong khi đó, video phổ biến nhất trên kênh TikTok chính thức của Face The Nation chỉ đạt 7.000 lượt thích. Tài khoản Sahay và nhiều TikToker khác đã bị xóa do vi phạm quy định, nhưng các nội dung deepfake của họ vẫn còn tồn tại trên mạng vì được nhiều người chia sẻ.
 |
Mô phỏng một khuôn mặt tạo bởi công nghệ deepfake. Ảnh: Cotigo |
Tạo tin giả bằng deepfake đã tồn tại từ lâu. Tuy nhiên, các chuyên gia cho biết khi kết hợp với hình ảnh của MC nổi tiếng, chúng có tác động lan truyền mạnh và gây ra hậu quả khôn lường. "Video trên các kênh truyền thông là phương tiện hấp dẫn để kẻ xấu tung tin giả. Trong nhiều trường hợp, người dẫn chương trình là những gương mặt quen thuộc và được khán giả tin tưởng. Giao diện bản tin cũng làm cho nội dung trở nên thân thuộc và đáng tin cậy hơn", giáo sư Hany Farid tại Đại học UC Berkeley giải thích.
Ariane Selliers, đại diện của TikTok, khẳng định nền tảng luôn cấm video sử dụng deepfake để tạo chân dung cá nhân với mục đích xấu. Công ty yêu cầu nhà sáng tạo gắn nhãn riêng cho nội dung AI để cảnh báo người xem. Nếu không tuân thủ, TikTok sẽ xóa video với lý do "nội dung gây hiểu nhầm" hoặc "mạo danh cá nhân để gây hại".
"Chúng tôi không muốn những người có ảnh hưởng và khán giả của họ bị lạm dụng hoặc lừa dối trong các vấn đề liên quan đến chính trị, tiền bạc", Selliers nói.
Tương tự, Elena Hernandez, đại diện của YouTube, cho biết nền tảng cũng đã xây dựng "chính sách thông tin sai lệch" để chống lại tình trạng tin giả AI.
Deepfake là từ viết tắt của deep learning (học sâu) cộng với fake (giả). Công nghệ này sử dụng trí tuệ nhân tạo để phân tích các cử chỉ, khuôn mặt và giọng nói của một người, sau đó tái tạo và chỉnh sửa chúng để tạo ra ảnh hoặc video trông giống như thật. Theo Kevin Goldberg, một luật sư của tổ chức Freedom Forum, hệ thống luật pháp cần phải có các quy định mới để xử lý tình trạng lan truyền tin Deepfake, bất kể chúng được sử dụng cho mục đích gây hại hay giải trí. Ngoài ra, các chuyên gia cho rằng người dùng cần phải nâng cao khả năng đánh giá thông tin, kiểm tra các liên kết và URL để đảm bảo rằng họ nhận thông tin từ các nguồn đáng tin cậy.
