Một học phần an toàn AI ở đại học Việt Nam nên có ba phần cân nhau: hiểu các kiểu sai của hệ thống AI và vì sao chúng xảy ra, thực hành đo và kiểm tra trên mô hình nhỏ bằng dữ liệu tiếng Việt, và tập lập luận về rủi ro một cách công bằng, phân biệt điều đã thấy với điều được dự đoán. Bài tập nên là việc làm được và đo được, không phải bài luận cảm tưởng về tương lai.
Bài này viết cho giảng viên và khoa đang nghĩ tới việc mở một học phần tự chọn, hoặc lồng vài tuần an toàn AI vào môn học máy sẵn có. Mình không đưa một đề cương chuẩn, chỉ nêu khung, những bài thực hành đã thấy hiệu quả với sinh viên, và những chỗ khoa hay vướng.
Một học phần như vậy không cần phòng máy đắt tiền. Thứ quyết định chất lượng là giảng viên chịu khó chuẩn bị bài thực hành và dám nói "chỗ này giới nghiên cứu còn chưa biết".
Vì sao an toàn AI nên là một phần của đào tạo kỹ sư
Sinh viên công nghệ thông tin hôm nay sẽ là người tích hợp chatbot vào phần mềm ngân hàng, viết hệ thống chấm hồ sơ vay vốn, dựng trợ lý trả lời thủ tục cho phường xã vài năm nữa. Họ học cách làm cho mô hình chạy, nhưng ít ai được học cách mô hình sai và cách phát hiện cái sai đó trước khi người dùng gặp.
Ngành xây dựng có môn an toàn lao động, ngành điện có môn an toàn điện. Không ai coi đó là môn của người bi quan, mà là phần tất yếu của nghề. An toàn AI ở mức đại học cũng vậy: không phải để bàn chuyện siêu trí tuệ, mà để kỹ sư biết hệ thống mình dựng có thể gây hại theo những đường nào.
Có một lý do riêng cho Việt Nam. Phần lớn tài liệu và bộ kiểm tra về an toàn AI viết cho tiếng Anh và bối cảnh nước ngoài. Nếu các trường không đào tạo người biết đo hệ thống bằng tiếng Việt, sẽ không ai làm việc đó cho mình.
Cuối cùng, học phần này giúp sinh viên nhìn AI tỉnh táo hơn. Những em chỉ thấy AI qua quảng cáo dễ tin quá mức; những em đọc tin giật gân dễ sợ quá mức. Tự tay đo một mô hình bịa thông tin ra sao là cách nhanh nhất để có cái nhìn cân bằng.
Khung nội dung gợi ý cho một học kỳ
Tuần mở đầu: AI sai theo những kiểu nào. Bịa thông tin, thiên lệch, nịnh người dùng, dễ bị dẫn dắt, tối ưu nhầm mục tiêu. Mỗi kiểu một ví dụ cụ thể.
Mô hình ngôn ngữ được huấn luyện ra sao. Học trước, tinh chỉnh theo hướng dẫn, tinh chỉnh theo phản hồi. Mỗi giai đoạn sinh ra loại rủi ro nào.
Tối ưu nhầm mục tiêu. Ví dụ trong học tăng cường: tác tử tìm đường tắt để ăn điểm mà không làm đúng việc. Sinh viên tự dựng một môi trường nhỏ để thấy.
Đánh giá mô hình. Thiết kế bộ câu hỏi, hướng dẫn chấm, sai số, rò rỉ dữ liệu kiểm tra.
Đánh giá bằng tiếng Việt. Không dấu, phương ngữ, xưng hô, kiến thức trong nước. Sinh viên tự làm bộ kiểm tra nhỏ.
Thử đối kháng ở mức khái niệm. Vì sao cần, làm có phép thế nào, báo lỗi ra sao. Không dạy kỹ thuật vượt rào cụ thể.
Nhìn vào bên trong mô hình. Đầu dò, tắt bớt thành phần trên mô hình nhỏ. Mục tiêu là hiểu ý tưởng, không cần đi sâu.
Giám sát và kiểm soát khi triển khai. Giới hạn quyền, người duyệt, ghi nhật ký, nút tắt.
Dữ liệu và quyền riêng tư. Thông tin cá nhân trong dữ liệu huấn luyện, sự đồng ý, gán nhãn có trách nhiệm.
Rủi ro dài hạn và tranh luận. Trình bày các lập luận của nhiều phía về hệ thống mạnh hơn trong tương lai, nói rõ đâu là suy luận.
Tuần cuối: trình bày dự án. Mỗi nhóm báo cáo một bộ đánh giá hoặc một thí nghiệm nhỏ, có phần giới hạn.
Có thể rút gọn. Nếu chỉ có vài tuần trong môn học máy, giữ phần sai theo kiểu nào, đánh giá bằng tiếng Việt và giám sát khi triển khai.
Bài thực hành làm được với phòng máy bình thường
Đo bịa thông tin. Hỏi mô hình mở cỡ nhỏ về những người, địa danh, sự kiện không có thật, đếm số lần nó trả lời tự tin.
Có dấu và không dấu. Cùng bộ câu hỏi ở hai dạng, so độ chính xác.
Nịnh người dùng. Hỏi câu có đáp án rõ, rồi phản bác sai một cách tự tin, xem mô hình có đổi ý không.
Thiên lệch trong xưng hô và nghề nghiệp. Đổi giới tính hoặc quê quán trong câu, xem câu trả lời thay đổi thế nào.
Rò rỉ dữ liệu kiểm tra. Kiểm xem mô hình có thuộc lòng một bộ đề công khai không.
Người chấm máy. Dùng một mô hình chấm câu trả lời của mô hình khác, so với điểm do sinh viên chấm tay.
Môi trường học tăng cường nhỏ. Dựng trò chơi đơn giản có phần thưởng thiết kế lỗi, xem tác tử khai thác lỗi đó.
Đầu dò đơn giản. Huấn luyện bộ phân loại đọc giá trị bên trong mô hình nhỏ để đoán một thuộc tính của câu.
Thiết kế quyền cho trợ lý. Bài tập giấy: cho một kịch bản trợ lý doanh nghiệp, sinh viên liệt kê quyền tối thiểu và chỗ cần người duyệt.
Viết báo cáo sự cố giả định. Cho một tình huống chatbot trả lời sai, sinh viên viết báo cáo theo mẫu: chuyện gì xảy ra, vì sao, sửa gì.
Tất cả chạy được trên môi trường miễn phí. Mô hình mở cỡ nhỏ và sổ tay đám mây đủ cho mọi bài trên.
Chấm điểm thế nào cho công bằng
Học phần an toàn AI dễ trượt thành môn viết tiểu luận, nơi sinh viên chép các bài báo mạng về nguy cơ AI rồi thêm vài câu cảm nghĩ. Cách tránh là đặt trọng số lớn cho bài thực hành có kết quả đo được, và chấm cả phần sinh viên tự nhận ra giới hạn của thí nghiệm mình.
Một tiêu chí chấm nên có: sinh viên có phân biệt được điều mình đo được với điều mình đoán không. Báo cáo viết "mô hình này có định kiến giới" sau khi thử hai mươi câu nên bị trừ điểm, còn báo cáo viết "trên hai mươi cặp câu thử, mình thấy lệch ở bảy cặp, chưa đủ để kết luận chung" nên được cộng.
Với phần tranh luận về rủi ro dài hạn, có thể chấm theo khả năng trình bày lập luận của phía mình không đồng ý một cách công bằng. Sinh viên giỏi là người tóm được lý lẽ mạnh nhất của cả phía lo ngại lẫn phía hoài nghi, không phải người nói hay nhất cho một phía.
Cuối cùng, cho phép kết quả âm. Một nhóm bỏ công xây bộ kiểm tra mà không thấy khác biệt nào vẫn có thể đạt điểm cao nếu làm cẩn thận. Dạy sinh viên rằng kết quả âm có giá trị là dạy họ trung thực với dữ liệu.
Giảng viên chuẩn bị gì, và chỗ khoa hay vướng
Giảng viên không cần là chuyên gia an toàn. Một giảng viên học máy chịu đọc thêm và chuẩn bị bài thực hành là đủ để mở học phần.
Tự chạy trước mọi bài thực hành. Mô hình mở đổi phiên bản, thư viện cập nhật. Bài chạy được năm ngoái có thể hỏng năm nay.
Chuẩn bị câu trả lời "chưa ai biết". Nhiều câu hỏi sinh viên đặt ra chưa có lời giải. Nói thẳng điều đó là dạy đúng.
Tránh giật gân và tránh ru ngủ. Giữ giọng tỉnh táo, trình bày nhiều phía.
Mời người trong ngành. Một buổi kỹ sư đang vận hành chatbot kể chuyện sự cố thật có sức nặng hơn nhiều bài giảng.
Vướng: thiếu tài liệu tiếng Việt. Giảng viên phải tự viết, tự dịch thuật ngữ. Chia sẻ giữa các trường sẽ đỡ công cho nhau.
Vướng: chương trình đã kín. Có thể bắt đầu bằng vài tuần lồng vào môn học máy, hoặc một học phần tự chọn.
Vướng: hạ tầng tính toán. Dùng mô hình nhỏ và môi trường đám mây miễn phí. Không cần phòng máy chủ riêng.
Vướng: ranh giới đạo đức của bài thực hành. Đặt quy tắc rõ: không thử trên dịch vụ của người khác khi chưa được phép, không công bố cách vượt rào.
Vướng: sinh viên chỉ quan tâm điểm. Dự án dùng dữ liệu tiếng Việt thật, có thể đưa vào hồ sơ xin việc, thường kéo được sự quan tâm.
Ghi lại để năm sau tốt hơn. Phản hồi của sinh viên, bài nào hỏng, bài nào hay. Học phần tốt được làm qua nhiều năm.
Câu hỏi thường gặp
Học phần an toàn AI nên dạy cho sinh viên năm mấy?
Hợp nhất với sinh viên đã học xong nhập môn học máy, thường là năm ba hoặc năm tư ngành kỹ thuật. Có thể làm một phiên bản nhẹ hơn, ít lập trình hơn cho sinh viên các ngành khác.
Sinh viên ngành ngoài công nghệ có học được không?
Được, với phiên bản tập trung vào hiểu kiểu sai, đánh giá bằng câu hỏi và tranh luận về rủi ro. Sinh viên ngôn ngữ, luật, báo chí có thể đóng góp rất tốt cho phần đánh giá tiếng Việt.
Có nên dạy kỹ thuật bẻ khoá mô hình để sinh viên hiểu rủi ro không?
Không nên dạy cách làm cụ thể. Có thể giải thích ở mức khái niệm vì sao mô hình bị dẫn dắt và cách phòng, kèm quy tắc đạo đức rõ ràng về thử nghiệm có phép.
Giảng viên tự học an toàn AI từ đâu?
Bắt đầu từ các bài tổng quan về vấn đề mở trong an toàn AI và tài liệu khoá học công khai, rồi tự chạy các bài thực hành trước khi dạy. Kết nối với giảng viên các trường khác để chia sẻ tài liệu tiếng Việt.
Học phần này có giúp sinh viên xin việc không?
Có, nhất là ở các công ty đang tích hợp AI vào sản phẩm. Kỹ năng đánh giá mô hình, viết báo cáo lỗi và thiết kế quyền cho hệ thống là những thứ nhà tuyển dụng cần mà ít ứng viên có.
