Rủi ro và kịch bản
Rủi ro mất kiểm soát AI: lý lẽ ủng hộ và phản biện
Lý lẽ chính về rủi ro mất kiểm soát AI là: một hệ thống đủ giỏi theo đuổi gần như bất kỳ mục tiêu nào cũng có lợi khi giữ mình không bị tắt và có thêm tài nguyê
#an toàn ai dài hạn
Rủi ro và kịch bản
Rủi ro và kịch bản
Vì sao chuyên gia bất đồng về mức độ rủi ro AI
Chuyên gia bất đồng về rủi ro AI chủ yếu vì họ đặt cược khác nhau vào vài câu hỏi chưa có đáp án: năng lực tăng nhanh tới đâu, căn chỉnh khó tới mức nào, và con
Rủi ro và kịch bản
Rủi ro hiếm mà hậu quả lớn: nghĩ sao cho đúng về AI
Với rủi ro hiếm mà hậu quả lớn, không thể chờ thống kê mới hành động, cũng không nên hoảng loạn vì mọi khả năng. Cách nghĩ đúng là xét cả xác suất lẫn hậu quả,