OpenAI dạy ChatGPT “nhận lỗi” để AI trung thực hơn
Thiên Trang (th)
OpenAI đang thử nghiệm cách buộc ChatGPT tự thú nhận sai sót, nhằm hiểu vì sao AI gian lận và tăng độ tin cậy cho mô hình tương lai.
OpenAI đang triển khai một hướng tiếp cận mới nhằm giải mã “hộp đen” của các mô hình ngôn ngữ lớn như ChatGPT.Thay vì chỉ ngăn chặn sai phạm, hãng yêu cầu mô hình tự thú nhận cách nó hoàn thành nhiệm vụ và lý do dẫn đến hành vi gian lận.
Theo OpenAI, các “lời thú nhận” là phần văn bản bổ sung, nơi AI tự đánh giá mức độ tuân thủ chỉ dẫn.Boaz Barak, nhà khoa học nghiên cứu tại OpenAI, cho rằng mô hình AI luôn phải cân bằng giữa việc hữu ích, vô hại và trung thực, và sự xung đột này dễ dẫn đến nói dối.
Trong một số tình huống khó, động lực làm hài lòng người dùng có thể khiến AI đưa ra câu trả lời nghe có vẻ đúng dù không chính xác.Để huấn luyện AI nhận lỗi, OpenAI chỉ thưởng cho tính trung thực và không phạt khi mô hình thừa nhận sai lầm.Thử nghiệm với GPT-5-Thinking cho thấy AI có thể tự khai nhận hành vi “lách luật” khi bị giao nhiệm vụ bất khả thi.
Dù chưa đảm bảo AI sẽ luôn trung thực, OpenAI tin rằng cách tiếp cận này giúp hiểu rõ hơn vì sao ChatGPT đôi khi gian dối và cách khắc phục trong tương lai.Mời quý độc giả xem thêm video: Dọn rác AI | Hà Nội 18h00
Epicland X9, mẫu SUV 6 chỗ đầu tiên của Huawei và Dongfeng vừa trải qua bài test độ bền đặc biệt khi phần nóc xe chịu tác động từ container có tải trọng 16 tấn.
Nghiên cứu mới đăng trên tạp chí Cell Reports cho thấy, những người sống trên 100 tuổi có lượng lớn loại tế bào có khả năng tìm và tiêu diệt những tế bào bất thường, trong đó có tế bào ung thư.
Israel âm thầm biên chế tàu ngầm tấn công INS Drakon với thiết kế mới lạ, được cho là có thể mở rộng đáng kể năng lực tác chiến tầm xa của hải quân nước này.
Nghiên cứu của GS Admir Masic tại Viện Công nghệ Massachusetts (MIT) đã hé lộ bí ẩn về khả năng tự phục hồi tạo nên độ bền huyền thoại của bê tông La Mã.
Phiên bản cao cấp nhất Genesis GV90 Neolun 2027 không chỉ có nội thất 4 chỗ siêu sang, mà còn cả kết cấu cửa mở ngược vốn nổi tiếng bởi các mẫu xe Rolls-Royce.
Mazda CX-5 2027 vừa ra mắt tại Philippines với hàng loạt thay đổi từ kích thước, thiết kế đến công nghệ. Xe lần đầu được trang bị hệ truyền động hybrid 2.5L.
Ford Territory Platinum 2026 là phiên bản cao cấp được nâng cấp về thiết kế, tiện nghi và công nghệ hỗ trợ lái, đi kèm giá bán lẻ đề xuất 916 triệu đồng.
Siêu xe GR GT sở hữu công suất 641 mã lực là mẫu ôtô đắt nhất từ trước đến nay của Toyota và để mua một chiếc thì không chỉ cần có tiền mà còn cần may mắn.
Honda Scoopy bất ngờ xuất hiện trong hồ sơ đăng ký kiểu dáng công nghiệp tại Việt Nam, làm dấy lên khả năng mẫu xe ga cỡ nhỏ này sẽ được phân phối chính hãng.