Khoa học & Công nghệ

Dùng AI viết báo cáo, cảnh sát Mỹ bị “biến thành ếch”

Thử nghiệm AI viết báo cáo từ camera đeo người của cảnh sát Mỹ gây sốc khi biến tình huống thật thành kịch bản hoạt hình, dấy lên lo ngại lớn.

e-1.png
Một công cụ AI được kỳ vọng giúp cảnh sát Mỹ giảm gánh nặng giấy tờ lại gây ra sự cố khó tin khi “biến” sĩ quan thành ếch trong báo cáo.
e-2.png
Sự việc xảy ra tại Sở cảnh sát Heber City, Utah, trong quá trình thử nghiệm phần mềm tự động viết báo cáo từ camera đeo thân.
e-3.png
AI đã vô tình trích lời thoại từ phim hoạt hình The Princess and the Frog do âm thanh bộ phim phát ra trong lúc ghi hình.
e-4.png
Phần mềm Draft One của Axon, sử dụng mô hình GPT của OpenAI, là công cụ tạo ra bản báo cáo sai lệch này.
e-6.png
Dù được quảng bá giúp tiết kiệm thời gian và tăng hiệu quả tuần tra, hệ thống AI vẫn tạo ra nhiều lỗi nghiêm trọng.
ma-8.png
Các chuyên gia cảnh báo việc quá tin vào báo cáo do AI tạo sinh có thể dẫn đến sai sót pháp lý nguy hiểm.
e-7.png
Nhiều ý kiến lo ngại AI còn có nguy cơ củng cố thiên kiến và làm mờ trách nhiệm giải trình của cảnh sát.
e-8.png
Vụ “cảnh sát biến thành ếch” trở thành lời cảnh tỉnh rõ ràng về rủi ro khi giao các tài liệu quan trọng cho trí tuệ nhân tạo.
Mời quý độc giả xem thêm video: Dọn rác AI | Hà Nội 18h00
back to top