OpenAI dạy ChatGPT “nhận lỗi” để AI trung thực hơn
Thiên Trang (th)
OpenAI đang thử nghiệm cách buộc ChatGPT tự thú nhận sai sót, nhằm hiểu vì sao AI gian lận và tăng độ tin cậy cho mô hình tương lai.
OpenAI đang triển khai một hướng tiếp cận mới nhằm giải mã “hộp đen” của các mô hình ngôn ngữ lớn như ChatGPT.Thay vì chỉ ngăn chặn sai phạm, hãng yêu cầu mô hình tự thú nhận cách nó hoàn thành nhiệm vụ và lý do dẫn đến hành vi gian lận.
Theo OpenAI, các “lời thú nhận” là phần văn bản bổ sung, nơi AI tự đánh giá mức độ tuân thủ chỉ dẫn.Boaz Barak, nhà khoa học nghiên cứu tại OpenAI, cho rằng mô hình AI luôn phải cân bằng giữa việc hữu ích, vô hại và trung thực, và sự xung đột này dễ dẫn đến nói dối.
Trong một số tình huống khó, động lực làm hài lòng người dùng có thể khiến AI đưa ra câu trả lời nghe có vẻ đúng dù không chính xác.Để huấn luyện AI nhận lỗi, OpenAI chỉ thưởng cho tính trung thực và không phạt khi mô hình thừa nhận sai lầm.Thử nghiệm với GPT-5-Thinking cho thấy AI có thể tự khai nhận hành vi “lách luật” khi bị giao nhiệm vụ bất khả thi.
Dù chưa đảm bảo AI sẽ luôn trung thực, OpenAI tin rằng cách tiếp cận này giúp hiểu rõ hơn vì sao ChatGPT đôi khi gian dối và cách khắc phục trong tương lai.Mời quý độc giả xem thêm video: Dọn rác AI | Hà Nội 18h00
Mẫu xe bán tải Ford Ranger mới bản 6 bánh, dẫn động 6x4 hoặc 6x6 nhờ mô-tơ điện này sẽ khó đến tay khách hàng, vì được dành cho các hoạt động quốc phòng.
Các nhà nghiên cứu tại Đại học Maryland (Mỹ) đã xác định được một phương pháp mới đầy hứa hẹn để điều trị vết rắn cắn bằng cách tận dụng chính cơ chế phòng vệ tự nhiên của loài rắn.
Từng là chiến sĩ trinh sát Sư đoàn 325, GS.TSKH Hồ Tú Bảo đã trở thành nhà khoa học uy tín, mở đường cho trí tuệ nhân tạo và khoa học dữ liệu tại Việt Nam.
Peugeot 408 Sport Edition bản đặc biệt lấy cảm hứng từ di sản Le Mans Peugeot, đồng thời trao cho khách hàng quyền cá nhân hóa chiếc xe theo phong cách riêng.
Vệ binh cách mạng Hồi giáo Iran đã đăng ảnh tàu lặn không người lái Dive-LD nước này bắt ở eo biển Hormuz, trong khi Mỹ cho biết phương tiện này gặp trục trặc.
Toyota Việt Nam chính thức giới thiệu Land Cruiser 300 HEV, phiên bản hybrid đầu tiên của dòng Land Cruiser 300. Xe được nhập khẩu nguyên chiếc từ Nhật Bản.
Porsche 911 Turbo S bản nâng cấp của thế hệ 992 đã có mặt tại Việt Nam, xe thuộc bản Coupe sở hữu nhiều tùy chọn cá nhân hóa và có giá thực tế gần 20 tỷ đồng.
Bạch cầu trung tính và phân tử IL-4 đóng vai trò quan trọng trong quá trình phục hồi tủy sống, mở ra hướng điều trị tiềm năng cho chấn thương thần kinh.