Khả năng diễn giải, tiếng Anh gọi là interpretability, là nghề tìm hiểu vì sao một mô hình AI cho ra kết quả đó bằng cách nhìn vào những gì xảy ra bên trong nó, chứ không chỉ xem đầu vào và đầu ra. Với an toàn AI, nó hứa hẹn một điều mà kiểm thử thường không làm được: phát hiện lối tắt sai và hành vi ẩn trước khi chúng gây chuyện. Nhưng hiện nay người ta mới soi được một phần nhỏ của các mô hình lớn.
Thợ sửa xe ở một tiệm nhỏ trên đường Phan Đình Phùng, Đà Lạt có hai cách chẩn đoán. Cách thứ nhất là nổ máy, nghe tiếng, chạy thử một vòng. Cách thứ hai là tháo nắp máy ra xem. Cách đầu nhanh và thường đủ. Cách sau tốn công, nhưng là cách duy nhất để biết chắc cái tiếng lạch cạch kia đến từ đâu. Kiểm thử AI giống cách đầu, diễn giải giống cách sau.
Bài này đi qua các hướng diễn giải chính, chỗ chúng thực sự giúp an toàn, và những giới hạn mà người làm nghề nói thẳng với nhau.
Hai câu hỏi khác nhau: nó làm gì, và nó làm thế nào
Khi người ta nói "AI giải thích được", thường có hai nhu cầu khác nhau bị trộn vào. Nhu cầu thứ nhất là của người bị ảnh hưởng: một chị chủ quán ở Huế bị từ chối khoản vay muốn biết vì sao. Câu trả lời cần ngắn, dễ hiểu, như "thu nhập khai báo chưa có chứng từ". Đây là giải thích cục bộ, cho một quyết định cụ thể.
Nhu cầu thứ hai là của người kiểm tra hệ thống: mô hình này nói chung dựa vào những gì, có dựa vào thứ không được phép dựa không, có cơ chế nào bên trong có thể làm nó hành xử khác thường không. Đây là câu hỏi về cơ chế, và nó khó hơn nhiều.
Có hai con đường để có câu trả lời. Đường thứ nhất là dùng ngay từ đầu những mô hình vốn dễ đọc, như một cây quyết định vài chục nhánh mà cán bộ tín dụng nhìn vào là hiểu. Đường thứ hai là vẫn dùng mô hình lớn, mạnh, rồi tìm cách đọc nó sau. Với ngôn ngữ, hình ảnh, âm thanh, con đường thứ nhất thường không đủ mạnh, nên phần lớn nghiên cứu hiện nay đi theo con đường thứ hai.
Riêng hướng đọc cơ chế, người trong nghề hay gọi là diễn giải cơ chế, đặt tham vọng cao nhất: không dừng ở "mô hình nhìn vào vùng này của ảnh", mà muốn tìm được các bước tính toán cụ thể bên trong, giống như dịch ngược một chương trình đã biên dịch về lại mã nguồn đọc được.
Bản đồ các hướng diễn giải chính
Gán điểm quan trọng. Tính xem mỗi phần của đầu vào, từng chữ hay từng vùng ảnh, góp bao nhiêu vào kết quả; thường hiện ra dưới dạng bản đồ nhiệt.
Hình dung đặc trưng. Tìm loại đầu vào làm một thành phần bên trong bật mạnh nhất, để đoán thành phần đó phản ứng với cái gì.
Đầu dò. Huấn luyện một bộ phân loại nhỏ đọc các con số trung gian, kiểm xem thông tin như "câu này nói về quá khứ" có nằm ở đó không.
Cắt bỏ. Vô hiệu một thành phần rồi đo năng lực nào mất, để biết thành phần đó có thật sự cần cho việc ấy.
Vá kích hoạt. Chạy mô hình trên hai đầu vào khác nhau, rồi chép trạng thái của một phần từ lần chạy này sang lần kia, xem kết quả đổi theo hay không.
Tìm mạch. Ghép các thành phần cùng tham gia một việc thành sơ đồ, như lần ra đường dây điện từ công tắc tới bóng đèn.
Từ điển đặc trưng thưa. Dùng một mô hình phụ tách các con số rối thành nhiều đặc trưng, mỗi lúc chỉ vài đặc trưng bật, dễ gán nghĩa hơn.
Lái biểu diễn. Cộng thêm một hướng đã biết nghĩa vào trạng thái bên trong rồi xem hành vi đổi ra sao, vừa để kiểm vừa để điều chỉnh.
Mô hình đồ chơi. Nghiên cứu mạng rất nhỏ, làm việc đơn giản, để hiểu trọn vẹn rồi mang bài học sang mô hình lớn.
Truy nguồn dữ liệu. Ước lượng những ví dụ huấn luyện nào ảnh hưởng nhiều nhất tới một câu trả lời cụ thể.
Dùng mô hình giải thích mô hình. Nhờ một mô hình ngôn ngữ viết mô tả cho các thành phần bên trong mô hình khác, rồi kiểm lại mô tả đó.
Mô hình vốn dễ đọc. Chọn kiến trúc đơn giản ngay từ đầu cho những việc không cần sức mạnh của mạng lớn.
Diễn giải giúp an toàn ở những chỗ nào?
Chỗ thứ nhất là bắt lối tắt. Một mô hình phân loại bình luận độc hại có thể học rằng cứ có tên một nhóm người nào đó là độc hại, vì trong dữ liệu huấn luyện tên đó hay đi kèm lời lăng mạ. Bản đồ nhiệt hay đầu dò có thể cho thấy mô hình đang dựa vào cái tên thay vì giọng điệu, điều mà điểm số chung không nói ra.
Chỗ thứ hai là kiểm tra những thứ đầu ra không nói. Giả sử một mô hình được hỏi một câu và trả lời "không biết", nhưng đầu dò cho thấy bên trong nó có biểu diễn rất rõ của câu trả lời đúng. Đó là một tín hiệu đáng xem xét: có thể mô hình được huấn luyện để từ chối, có thể có điều gì khác. Kiểm toán viên giỏi không chỉ nghe giám đốc báo cáo mà mở sổ ra đối chiếu.
Chỗ thứ ba là sửa có mục tiêu. Nếu tìm được đúng phần bên trong gây ra một hành vi xấu, người ta có thể sửa chính phần đó thay vì huấn luyện lại cả mô hình và hy vọng. Giống như thay đúng cái tụ hỏng thay vì thay cả bo mạch.
Chỗ thứ tư, và có lẽ quan trọng nhất về lâu dài, là niềm tin có căn cứ. Với những hệ thống ngày càng mạnh, câu "đã thử rất nhiều và chưa thấy vấn đề" sẽ ngày càng kém thuyết phục. Diễn giải là một trong số ít con đường có thể cho phép nói điều mạnh hơn, ít nhất về nguyên tắc.
Những giới hạn người làm nghề nói thẳng
Giới hạn đầu tiên là độ phủ. Các kết quả diễn giải nổi bật thường giải thích được một hành vi cụ thể, trên một mô hình cụ thể, trong điều kiện cụ thể. Phần lớn những gì diễn ra bên trong một mô hình lớn vẫn chưa ai đọc được.
Giới hạn thứ hai là ảo giác diễn giải. Rất dễ tìm được một câu chuyện nghe hợp lý: "thành phần này phát hiện con chó". Nhưng có thể nó bật cả với những thứ không liên quan mà người nghiên cứu không thử. Câu chuyện chỉ đáng tin khi được kiểm bằng can thiệp: tắt nó đi thì việc nhận ra con chó có thật sự hỏng không, và chỉ việc đó hỏng thôi không.
Giới hạn thứ ba là chi phí và quy mô. Nhiều phương pháp tốn công tính toán ngang hoặc hơn chính việc chạy mô hình, và cần người có tay nghề cao để đọc kết quả. Mô hình càng lớn, việc này càng nặng.
Giới hạn thứ tư là chưa có thước đo "đủ hiểu". Không có tiêu chuẩn chung nào nói hiểu được bao nhiêu thì đủ để tin một hệ thống. Diễn giải có theo kịp tốc độ mô hình lớn lên hay không là câu hỏi mở; có người lạc quan, có người hoài nghi, và cả hai phía đều có lý lẽ.
Đọc một tuyên bố "đã giải thích được AI" như thế nào?
Giải thích cho ai? Lời giải thích dành cho người dùng cuối và cho người kiểm định là hai thứ khác nhau, đừng lấy cái này đánh giá cái kia.
Cục bộ hay toàn cục? Giải thích một quyết định khác hẳn với giải thích cách mô hình hoạt động nói chung.
Có kiểm bằng can thiệp không? Chỉ quan sát thấy tương quan thì yếu; tắt hay thay đổi phần đó mà hành vi đổi đúng như dự đoán thì mạnh hơn nhiều.
Thử trên bao nhiêu ví dụ? Vài ví dụ đẹp được chọn ra để minh hoạ chưa phải bằng chứng.
Có phản ví dụ không? Bài nghiêm túc thường nói rõ những trường hợp giải thích không khớp.
Mô hình cỡ nào? Kết quả trên mô hình nhỏ không tự động đúng với mô hình lớn hơn nhiều lần.
Phủ được bao nhiêu hành vi? Hiểu một mạch nhỏ không có nghĩa là hiểu toàn bộ mô hình.
Giải thích có ổn định không? Đổi đầu vào một chút mà lời giải thích đổi hẳn thì nên dè chừng.
Có so với một mốc ngớ ngẩn không? Một phương pháp tốt phải cho kết quả khác hẳn khi áp lên mô hình có trọng số ngẫu nhiên.
Ai kiểm lại? Kết quả được nhóm độc lập lặp lại thì đáng tin hơn kết quả chỉ một nhóm công bố.
Có nói giới hạn không? Tuyên bố không kèm giới hạn nào thường là tuyên bố quảng cáo hơn là nghiên cứu.
Câu hỏi thường gặp
Diễn giải và giải thích AI có phải một thứ không?
Hai chữ hay được dùng lẫn. Khi phân biệt, "giải thích" thường nghiêng về lý do cho một quyết định cụ thể dành cho người dùng, còn "diễn giải" nghiêng về hiểu cơ chế bên trong dành cho người nghiên cứu và kiểm định.
Học diễn giải mô hình cần nền tảng gì?
Cần đại số tuyến tính, xác suất, lập trình Python và hiểu cách mạng nơ-ron được huấn luyện. Phần còn lại học qua thực hành trên mô hình nhỏ, tự chạy lại các thí nghiệm đã công bố.
Doanh nghiệp nhỏ dùng AI có cần quan tâm diễn giải không?
Ở mức cơ bản thì có: nên biết mô hình mình dùng đang dựa vào những gì, nhất là khi nó ảnh hưởng tới khách hàng. Nhiều khi chỉ cần kiểm thử có hệ thống và chọn mô hình dễ đọc cho việc đơn giản.
Diễn giải có giúp phát hiện AI nói dối không?
Đây là một trong những hy vọng lớn của ngành, và đã có những thí nghiệm cho kết quả đáng chú ý trên một số tình huống. Nhưng chưa có phương pháp nào đáng tin để dùng như máy phát hiện nói dối cho mọi mô hình.
Nếu không diễn giải được thì có nên dùng AI không?
Tuỳ việc. Việc có người duyệt lại, sai thì sửa được, thì kiểm thử kỹ có thể đủ. Việc khó đảo ngược, ảnh hưởng nhiều người thì nên đòi hỏi cao hơn, và có khi nên chọn cách làm khác.
