Sử dụng AI kiểm duyệt nội dung ảnh trực tuyến

Theo Cris Pikes, Giám đốc điều hành và đồng sáng lập Image Analyzer, ước tính người kiểm duyệt phải mất đến 950 năm để kiểm tra tất cả các Snaps được tải lên SnapChat trong mỗi 24 giờ, các doanh nghiệp dịch vụ truyền thông không thể kiểm duyệt khối lượng hình ảnh này thủ công".

Các công ty truyền thông xã hội lớn như Facebook, thuê ngoài “outsource” kiểm duyệt nội dung cũng phải vật lộn hết sức để theo kịp sự phát triển những nội dung độc hại, cực đoan và sai sự thật. Khối lượng khủng khiếp đến mức nhân viên kiểm duyệt bắt đầu khởi kiện vì kiệt sức, chấn thương tâm lý và căng thẳng.

Các tổ chức cũng phải đối mặt với áp lực từ những dự thảo luật, như Dự luật An toàn Trực tuyến của Vương quốc Anh và Đạo luật Dịch vụ kỹ thuật số của EU. Những đạo luật này đòi hỏi các công ty phải nhanh chóng gỡ bỏ nội dung bất hợp pháp với những khoản phạt tài chính lớn nếu không kịp thực hiện, có lên đến 10% doanh thu trên toàn cầu hàng năm.

Để giải quyết vấn đề, các kỹ sư CNTT đề xuất giải pháp ứng dụng Trí tuệ nhân tạo. Giám đốc điều hành Công ty Image Analyzer, giành được Giải thưởng Công nghệ mới nổi tốt nhất về AI tại Giải thưởng AI & Máy học năm 2021 Cris Pikes cho biết, trí tuệ nhân tạo có thể được sử dụng vào một điểm chuẩn trong quy trình làm việc của hệ thống nền tảng kỹ thuật số, tự động loại bỏ hầu hết các nội dung có hại trước khi vào hệ thống. Giải pháp này hỗ trợ việc tuân thủ luật pháp sắp ban hành và chỉ để lại nội dung đa dạng cho người kiểm duyệt xem xét.

Cris Pikes giải thích, hệ thống thông minh trực quan của Trình phân tích hình ảnh (IAVIS) cung cấp cho mỗi phần nội dung điểm số xác suất rủi ro, tăng tốc độ xem xét các bài đăng và giảm khối lượng thông tin chờ kiểm duyệt xuống 90% hoặc hơn... IAVIS có thể mở rộng để tăng vừa phải khối lượng nội dung trực quan và không làm ảnh hưởng đến hiệu suất hoặc trải nghiệm người dùng.

Cũng như các phương tiện truyền thông xã hội, các đối tác của Image Analyzer cũng sử dụng giải pháp AI này trong những hệ thống cộng đồng trực tuyến và hạ tầng cơ sở căn bản các trò chơi để bảo vệ trẻ em, trong các nhóm pháp y kỹ thuật số nhằm xác định bằng chứng kỹ thuật số ẩn bên trong hàng nghìn hình ảnh, tin nhắn và dữ liệu phi cấu trúc, lưu trữ trên mạng và các thiết bị điện tử.

Mặc dù Image Analyzer rất hài lòng với hiệu suất của ứng dụng, nhưng thừa nhận công việc vẫn còn ở phía trước, đặc biệt khi các bộ luật mới xuất hiện. Nhiều tổ chức khoa học xã hội ngoài Vương quốc Anh và EU không nhận thấy những luật an ninh truyền thông sẽ áp dụng với những cơ sở này. Pikes khẳng định, lĩnh vực giáo dục sẽ là trọng tâm sắp tới đối với công ty.

Những ưu tiên của công ty là hỗ trợ khách hàng hiện tại và tương lai hiểu được bối cảnh pháp lý truyền thông, sắp có hiệu lực ở Vương quốc Anh và châu Âu, làm việc với những khách hàng và đối tác sản xuất sản phẩm (OEM), giúp chuẩn hóa các hệ thống để duy trì một môi trường trực tuyến an toàn cho người dùng và nhân viên.