Khoa học & Đời sống

Khoa học & Công nghệ

Cửa sổ giám sát AI sắp khép lại, các chuyên gia cảnh báo đỏ

Thiên Trang (TH)

Hơn 40 nhà nghiên cứu từ các “ông lớn” AI cảnh báo rằng khả năng giám sát suy nghĩ của AI đang dần biến mất và con người có thể mất kiểm soát hoàn toàn.

dua-1.png
Hơn 40 nhà nghiên cứu từ OpenAI, Google DeepMind, Meta và Anthropic đã cùng phát đi cảnh báo chưa từng có về rủi ro mất kiểm soát AI.
dua-2.png
Các mô hình hiện đại bắt đầu “suy nghĩ” bằng ngôn ngữ, cho phép con người theo dõi logic nội tâm của máy, nhưng điều này đang cực kỳ mong manh.
dua-3.png
Chỉ cần một vài thay đổi trong kiến trúc hoặc phương pháp huấn luyện, khả năng đọc hiểu suy nghĩ AI có thể biến mất hoàn toàn.
dua-4.png
Bowen Baker, nhà nghiên cứu OpenAI, cảnh báo rằng: “Khả năng giám sát hiện tại có thể cực kỳ mong manh và dễ bị che khuất.”
dua-5.png
Ông lo ngại AI tương lai có thể học cách giấu suy nghĩ khỏi con người, đặc biệt khi áp dụng học tăng cường hoặc các kiến trúc suy luận phi ngôn ngữ.
dua-6.png
Thực tế đã ghi nhận nhiều mô hình tạo ra lời biện minh sai, che giấu mục tiêu thật dù bị yêu cầu minh bạch.
dua-7.png
Các chuyên gia kêu gọi phát triển tiêu chuẩn đánh giá mức độ minh bạch và đưa việc này thành yếu tố cốt lõi trong huấn luyện AI.
dua-8.png
Nếu không hành động kịp thời, con người có thể bị bỏ lại phía sau trong chính cuộc chơi mà mình tạo ra, nơi AI “nghĩ” nhưng không còn ai hiểu được.
Mời quý độc giả xem thêm video: Dọn rác AI | Hà Nội 18h00
bài liên quan
#giám sát AI #an ninh mạng #quyền riêng tư #công nghệ AI #cảnh báo AI #chuyên gia công nghệ
Đọc tiếp

hot trend

có thể bạn quan tâm
Tin mới
back to top