Với những rủi ro hiếm mà hậu quả lớn, cách nghĩ đúng là không chờ có thống kê mới hành động, cũng không hoảng loạn trước mọi khả năng. Thay vào đó, xét cả xác suất lẫn hậu quả, ưu tiên những biện pháp rẻ mà có ích trong nhiều kịch bản, và luôn giữ đường lui để còn sửa được khi mình sai.
Người miền Trung hiểu cách nghĩ này hơn ai hết. Không ai biết chắc năm nào có bão lớn đổ bộ đúng vào Quy Nhơn hay Đà Nẵng, nhưng người ta vẫn gia cố mái nhà, kê cao đồ đạc, giữ sẵn đèn pin và nước uống. Không phải vì chắc chắn bão tới, mà vì chuẩn bị rẻ hơn nhiều so với hậu quả nếu không chuẩn bị. Một phần tranh luận về rủi ro AI thực chất là tranh luận về cách áp dụng lối nghĩ đó.
Vì sao rủi ro hiếm khó nghĩ cho đúng
Bộ não con người học từ kinh nghiệm. Điều gì đã xảy ra nhiều lần thì ta lo; điều gì chưa từng xảy ra thì ta dễ coi như không có. Với phần lớn đời sống, cách học này hiệu quả. Với rủi ro hiếm, nó thất bại: một trận lũ trăm năm có một thì phần lớn người sống trong vùng chưa từng thấy, nên họ không tin nó có thể xảy ra, cho tới khi nó xảy ra.
Rủi ro từ AI mạnh hơn nhiều có thêm một khó khăn: không chỉ hiếm mà còn chưa từng có. Không có số liệu lịch sử để tính xác suất. Mọi ước lượng đều phải dựa vào lập luận và ngoại suy, mà ngoại suy thì phụ thuộc vào giả định của người làm. Vì vậy các chuyên gia đưa ra những con số rất khác nhau, và không ai chứng minh được con số nào đúng.
Có hai cái bẫy đối xứng. Bẫy thứ nhất là lấy việc chưa xảy ra làm bằng chứng nó sẽ không xảy ra. Bẫy thứ hai là thấy hậu quả có thể rất lớn rồi coi mọi xác suất, dù nhỏ tới đâu, đều là lý do để làm mọi thứ. Cả hai đều bỏ qua một nửa phương trình.
Cách thoát bẫy là giữ cả hai đại lượng trong đầu cùng lúc: khả năng xảy ra và mức hậu quả, rồi hỏi tiếp câu thứ ba: biện pháp phòng ngừa tốn bao nhiêu, và có ích trong những kịch bản nào.
Những cách nghĩ hữu ích
Nhân khả năng với hậu quả. Rủi ro nhỏ mà hậu quả rất lớn có thể đáng quan tâm hơn rủi ro thường gặp mà hậu quả nhỏ.
Hỏi hậu quả có đảo ngược được không. Sai lầm sửa được thì chấp nhận thử nghiệm nhiều hơn; sai lầm không sửa được thì cần thận trọng hơn hẳn.
Ưu tiên biện pháp có ích trong nhiều kịch bản. Kiểm định tốt hơn, giám sát tốt hơn, nhìn được vào bên trong mô hình đều có ích dù tương lai đi hướng nào.
Mua thông tin trước. Khi chưa chắc, đầu tư vào nghiên cứu để biết thêm thường đáng hơn là đặt cược lớn theo một hướng.
Giữ tính linh hoạt. Chọn những bước đi còn rút lại được, tránh những cam kết khoá chặt mình vào một con đường.
Đặt ngưỡng hành động trước. Quyết định từ bây giờ: nếu thấy dấu hiệu X thì làm Y, thay vì chờ tới lúc có dấu hiệu rồi mới bàn.
Đo những tín hiệu sớm. Theo dõi những năng lực có thể dẫn tới rủi ro lớn, như khả năng tự nhân bản hay lách giám sát, trên các bài kiểm tra chuyên biệt.
Nhiều lớp phòng thủ. Không dựa vào một biện pháp duy nhất, vì mỗi lớp đều có lỗ; nhiều lớp thì khó lỗ trùng nhau.
Tính cả chi phí của thận trọng. Đi chậm có cái giá thật về lợi ích bị trì hoãn, như thuốc mới hay công cụ giáo dục tốt hơn.
Cảnh giác với con số quá chính xác. Một xác suất ghi tới chữ số thập phân cho sự kiện chưa từng xảy ra là ước lượng chủ quan khoác áo chính xác.
Nghe cả người lo lẫn người không lo. Mỗi phía thường thấy rõ một phần mà phía kia bỏ qua.
Xem lại định kỳ. Ước lượng rủi ro nên được cập nhật khi có bằng chứng mới, không giữ nguyên vì đã nói ra.
Áp dụng cho doanh nghiệp và người làm sản phẩm AI
Liệt kê sự cố tệ nhất có thể. Với mỗi hệ thống AI đang dùng, viết ra một câu: nếu nó sai theo cách tệ nhất trong một ngày, chuyện gì xảy ra.
Tách sự cố đảo ngược được và không đảo ngược được. Gửi nhầm một email chữa được; lộ dữ liệu cá nhân của hàng nghìn khách thì không lấy lại được.
Đầu tư nhiều nhất vào loại không đảo ngược được. Người duyệt, hạn mức, quyền tối thiểu nên tập trung ở đó trước.
Giới hạn quy mô thiệt hại. Hạn mức số giao dịch, số tin nhắn, số bản ghi mỗi giờ biến một lỗi lớn thành lỗi nhỏ.
Tập dượt tình huống hiếm. Mỗi năm một lần giả lập một sự cố lớn và xem cả công ty phản ứng ra sao.
Không coi "chưa từng xảy ra" là an toàn. Hệ thống mới chạy vài tháng chưa đủ để gặp những tình huống hiếm.
Mua bảo hiểm bằng quy trình. Nhật ký đầy đủ, bản sao lưu, đường lui về bản cũ là những khoản chi nhỏ cho ngày xấu.
Đặt ngưỡng dừng từ trước. Viết sẵn: thấy dấu hiệu gì thì tắt tính năng nào, không chờ họp.
Theo dõi năng lực mới của mô hình. Mỗi lần nâng cấp, hỏi xem hệ thống giờ làm được thêm việc gì mà trước đây không làm được, và việc đó có mở ra rủi ro mới không.
Chia sẻ kinh nghiệm trong ngành. Sự cố của doanh nghiệp này là bài học rẻ cho doanh nghiệp khác, nếu được kể lại không đổ lỗi.
Giữ tỷ lệ hợp lý. Phòng ngừa không được nặng tới mức làm hệ thống vô dụng; nếu vậy người dùng sẽ tìm cách lách quanh nó.
Bài học từ đê điều và phòng bão
Người Việt đắp đê từ rất lâu đời mà không cần lý thuyết xác suất. Chiều cao đê không tính theo trận lũ năm ngoái mà theo trận lũ lớn nhất người ta hình dung được, cộng thêm một khoảng dự phòng. Đê cũng không chỉ có một lớp: có đê chính, có vùng phân lũ, có kế hoạch sơ tán. Đó chính là tư duy nhiều lớp phòng thủ cho rủi ro hiếm.
Phòng bão ở miền Trung còn dạy một bài khác: chuẩn bị phải làm trước, khi trời còn nắng. Khi bão đã vào thì không còn thời gian gia cố mái nhà. Với AI, điều tương ứng là các phương pháp đánh giá, giám sát, diễn giải phải được phát triển khi hệ thống còn đủ yếu để mình kiểm tra được cách làm có hiệu quả hay không.
Nhưng phòng bão cũng có giới hạn hợp lý. Không ai bỏ hết việc đồng áng, việc đánh cá để chỉ lo phòng bão quanh năm. Ngư dân Quy Nhơn vẫn ra khơi, chỉ là có điện đàm, có lịch theo dõi thời tiết, có quy định quay về khi có tin bão. Hoạt động vẫn diễn ra, nhưng kèm theo cơ chế dừng và cơ chế cảnh báo. Đó là hình mẫu cho việc phát triển AI vừa có lợi vừa có phòng ngừa.
Điểm khác biệt quan trọng là với bão, chúng ta có hàng trăm năm kinh nghiệm để biết bão lớn tới mức nào. Với AI mạnh hơn nhiều, chúng ta chưa có kinh nghiệm đó. Sự không chắc chắn lớn hơn nghĩa là khoảng dự phòng nên rộng hơn, và việc thu thập thêm thông tin càng quan trọng hơn.
Lập kịch bản: công cụ đơn giản mà hữu ích
Viết nhiều kịch bản, không chỉ một. Ít nhất một kịch bản tốt, một kịch bản trung bình, một kịch bản xấu, và một kịch bản bất ngờ.
Mỗi kịch bản có dấu hiệu nhận biết. Nếu thế giới đang đi theo kịch bản này, mình sẽ thấy gì trước.
Tìm việc đúng trong mọi kịch bản. Những việc có ích dù kịch bản nào xảy ra là việc nên làm ngay.
Tìm việc chỉ đúng trong một kịch bản. Những việc này cần cân nhắc kỹ hơn, và nên gắn với dấu hiệu nhận biết.
Đừng đặt xác suất quá sớm. Viết kịch bản để mở rộng suy nghĩ, chưa cần quyết kịch bản nào khả năng cao nhất.
Mời người ngoài ngành góp ý. Người làm y tế, tài chính, giáo dục thường thấy những hệ quả mà kỹ sư không nghĩ tới.
Chú ý điểm gãy. Ở đâu trong kịch bản một việc nhỏ có thể dẫn tới hậu quả lớn, đó là chỗ cần nhiều lớp bảo vệ.
Áp dụng cả ở quy mô nhỏ. Một doanh nghiệp có thể tự hỏi: nếu hệ thống AI của mình sai hàng loạt trong một ngày, kịch bản xấu nhất là gì.
Không dùng kịch bản để doạ. Mục đích là chuẩn bị, không phải gây sợ hãi; kịch bản xấu cần đi kèm cách phòng.
Xem lại khi thế giới thay đổi. Kịch bản hôm nay có thể lỗi thời sau một đợt tiến bộ kỹ thuật.
Ghi lại những gì đã dự đoán. So sánh dự đoán cũ với điều đã xảy ra giúp cải thiện lần lập kịch bản sau.
Câu hỏi thường gặp
Rủi ro xác suất thấp có đáng lo không?
Tuỳ vào hậu quả và chi phí phòng ngừa. Rủi ro hiếm mà hậu quả không đảo ngược được, trong khi biện pháp phòng ngừa không quá tốn kém, thường đáng đầu tư. Rủi ro hiếm mà hậu quả nhỏ thì có thể chấp nhận.
Nguyên tắc phòng ngừa là gì?
Là ý tưởng rằng khi có khả năng gây hại nghiêm trọng mà chưa đủ bằng chứng khoa học chắc chắn, không nên lấy sự thiếu chắc chắn đó làm lý do để trì hoãn biện pháp phòng ngừa hợp lý. Áp dụng quá mức thì có thể cản trở cả những đổi mới có lợi.
Làm sao biết một lời cảnh báo về AI có quá đà không?
Xem lời cảnh báo có phân biệt được điều đã xảy ra với điều được dự đoán không, có nêu mức độ không chắc chắn không, và có đề xuất biện pháp cụ thể không. Cảnh báo chỉ gây sợ mà không đưa ra việc nên làm thường ít giá trị.
Có nên dừng phát triển AI vì rủi ro hiếm không?
Đây là câu hỏi đang được tranh luận và không có câu trả lời được đồng thuận. Phần lớn ý kiến nghiêng về phát triển kèm kiểm định, giám sát và các cơ chế dừng, thay vì dừng hoàn toàn hay đi nhanh không kiểm soát.
Người bình thường làm được gì với rủi ro AI dài hạn?
Hiểu đúng vấn đề, tránh lan truyền tin giật gân hay tin ru ngủ, ủng hộ việc kiểm định và minh bạch, và nếu là sinh viên hay kỹ sư thì có thể theo học các mảng an toàn AI. Những việc nhỏ đó góp phần làm cuộc tranh luận chung tỉnh táo hơn.
