OpenAI, cha đẻ của nền tảng trí tuệ nhân tạo ChatGPT, đã chia sẻ một thử nghiệm quy mô nhỏ công cụ có tên Voice Engine, một tuần sau khi đăng ký thương hiệu cho công cụ này.
Điểm đáng chú ý là công cụ này có thể sao chép lời nói của ai đó dựa trên đoạn ghi âm 15 giây.
OpenAI cho biết họ có kế hoạch thử nghiệm nó "nhưng chưa phát hành rộng rãi công nghệ vào thời điểm này" vì nguy cơ bị lạm dụng.
Voice Engine được OpenAI phát triển từ 2022 và thử nghiệm cùng một nhóm khách hàng cuối 2023. Trong đó, phần mềm thể hiện khả năng hỗ trợ đọc, dịch nội dung giữa các ngôn ngữ khác nhau và tạo tiếng nói cho những người mất khả năng nói chuyện.
 |
OpenAI ra mắt công cụ nhân bản giọng nói chỉ với 15 giây thu âm. Ảnh minh họa |
Theo OpenAI, việc công bố Voice Engine nhằm khuyến khích giới quản lý và công chúng tăng cường cảnh giác với những trò lừa đảo sử dụng AI (trí tuệ nhân tạo). Nhà phát triển cảnh báo tội phạm có thể dùng phần mềm giả giọng để đánh cắp thông tin cá nhân hoặc vượt qua những hàng rào an ninh tại ngân hàng.
OpenAI cho hay đang hợp tác với các đối tác Mỹ và quốc tế trong nhiều lĩnh vực như chính phủ, truyền thông, giải trí, giáo dục... để ghi nhận các phản hồi trong quá trình xây dựng công cụ giọng nói này.
Đến nay, một số công ty khởi nghiệp đã bán ra các công nghệ nhại giọng nói.
Tuy nhiên, các nhà nghiên cứu lo ngại những công nghệ này sẽ bị lạm dụng để truyền tải thông tin sai lệch trong năm bầu cử quan trọng, khi mà công cụ nhân bản giọng nói ngày càng phổ biến, rẻ tiền, dễ sử dụng và khó theo dõi.
Cũng theo OpenAI, các đối tác thử nghiệm Voice Engine đã đồng ý với các quy tắc bao gồm yêu cầu sự đồng ý rõ ràng và đầy đủ thông tin của tất cả những người bị nhại giọng. Ngoài ra, người nghe cũng được thông báo khi nào giọng nói họ nghe được là do AI tạo ra.
