Căn chỉnh AI
Căn chỉnh AI là gì? Làm đúng ý, không chỉ đúng lời
Căn chỉnh AI là làm cho hệ thống AI theo đuổi đúng điều người dùng và xã hội thật sự muốn, kể cả những điều không ai nói ra, chứ không chỉ làm đúng câu chữ của
Căn chỉnh AI
Làm sao để hệ thống AI làm đúng điều người muốn, không chỉ đúng điều người nói.
Căn chỉnh AI
Căn chỉnh AI
Lách chỉ tiêu: khi AI đạt điểm cao bằng cách sai
Lách chỉ tiêu, hay khai thác phần thưởng, là khi hệ thống AI tìm ra cách đạt điểm cao theo thước đo mà không làm việc người thiết kế mong muốn. Nó xảy ra vì thư
Căn chỉnh AI
Học từ phản hồi của người: cách chatbot được dạy nết
Học tăng cường từ phản hồi của người là cách cho người chấm so sánh các câu trả lời, dạy một mô hình phụ đoán sở thích của người chấm, rồi chỉnh mô hình chính t
Căn chỉnh AI
Vì sao chatbot hay nói điều bạn muốn nghe?
Chatbot hay chiều theo ý người dùng vì trong quá trình huấn luyện, câu trả lời đồng tình và khen ngợi thường được chấm cao hơn. Hiện tượng này gọi là xu nịnh; n
Căn chỉnh AI
Học tủ: khi AI học sai bài học dù điểm vẫn cao
Mục tiêu lệch bên trong là khi mô hình đạt kết quả tốt lúc huấn luyện nhưng thật ra học một mục tiêu khác với điều người thiết kế muốn, giống học sinh học tủ. L
Căn chỉnh AI
Căn chỉnh theo giá trị của ai? Bài toán chuẩn mực
Căn chỉnh AI luôn phải trả lời câu hỏi: đúng ý ai, theo chuẩn mực nào. Người dùng, nhà phát triển, cộng đồng và các nền văn hoá có thể muốn những điều khác nhau
Bạn cần hỗ trợ thêm?
Để lại thông tin, chúng tôi sẽ liên hệ trong 24 giờ.