"Làm an toàn AI" không phải một nghề mà là một nhóm nghề. Có người cả ngày thiết kế bài kiểm tra để đo mô hình, có người tìm cách làm mô hình trả lời sai để vá trước khi phát hành, có người mổ xẻ bên trong mô hình xem nó tính toán gì, có người nghiên cứu cách huấn luyện để mô hình làm đúng ý người, có người viết phần mềm giám sát hệ thống đang chạy. Chọn hướng nào nên dựa vào việc bạn thích làm gì mỗi ngày, không dựa vào cái tên nghe hay.
Bài này vẽ bản đồ các vai đó, nói mỗi vai làm gì trong một ngày bình thường, cần nền gì, hợp với kiểu người nào, và ở Việt Nam hiện nay cửa vào nào thực tế hơn. Tên chức danh mỗi nơi mỗi khác, nên hãy nhìn vào nội dung công việc hơn là cái nhãn.
Sáu vai chính trong nghề an toàn AI
Người thiết kế đánh giá. Xây bộ câu hỏi, bộ tình huống để đo một năng lực hay một rủi ro của mô hình, rồi chạy, chấm, phân tích. Công việc gần với làm đề thi và thống kê.
Người thử đối kháng. Cố tình tìm những cách khiến mô hình trả lời sai, lộ thông tin, làm điều không được phép, rồi ghi lại để đội phát triển vá. Đòi hỏi óc tò mò kiểu "nếu mình thử thế này thì sao".
Người nghiên cứu diễn giải. Mở mô hình ra, đọc các giá trị bên trong, tìm xem khái niệm nào được biểu diễn ở đâu, mô hình đi qua những bước nào để ra câu trả lời. Nhiều toán tuyến tính, nhiều kiên nhẫn.
Người nghiên cứu căn chỉnh. Tìm phương pháp huấn luyện để mô hình theo đúng ý định của người dùng và người phát triển, kể cả trong tình huống chưa gặp. Gần với học tăng cường và học từ phản hồi.
Kỹ sư hạ tầng an toàn. Viết công cụ để các vai khác làm việc: hệ thống chạy đánh giá hàng loạt, bộ lọc đầu vào đầu ra, hệ thống ghi nhật ký và giám sát. Thiên về kỹ năng phần mềm.
Người làm an toàn trong đội sản phẩm. Đứng giữa đội kỹ thuật và người dùng: viết quy tắc sử dụng, quyết định mô hình nên từ chối loại yêu cầu nào, theo dõi phản ánh, điều phối xử lý sự cố.
Vai phân tích chính sách kỹ thuật. Dịch kết quả kỹ thuật thành thứ người ra quyết định đọc được. Thường cần nền kỹ thuật vững cộng khả năng viết rõ.
Vai lý thuyết. Làm toán về những câu hỏi nền như học được gì từ phản hồi, khi nào mô hình tổng quát đúng. Ít người, đòi hỏi nền toán sâu.
Ranh giới giữa các vai rất mờ. Ở đội nhỏ, một người có thể vừa thiết kế đánh giá vừa thử đối kháng vừa viết công cụ. Đừng lo chọn sai, kỹ năng chuyển qua lại được.
Vai nào cũng cần viết tốt. Kết quả không ai đọc hiểu thì như chưa làm. Viết báo cáo rõ ràng là kỹ năng chung của cả nghề.
Vai nào cũng cần cẩn thận với dữ liệu. Một nhãn sai, một mẫu trùng có thể làm hỏng kết luận của cả tháng làm việc.
Một ngày làm việc của từng vai trông ra sao
Người thiết kế đánh giá thường bắt đầu ngày bằng việc xem kết quả lượt chạy đêm qua. Mô hình mới đạt điểm cao hơn ở bộ câu hỏi về pháp luật dân sự, nhưng khi đọc kỹ từng câu thì thấy nó đúng nhờ đoán theo độ dài đáp án. Nửa ngày còn lại dành để sửa bộ câu hỏi cho khỏi bị đoán mò như vậy. Công việc này giống giáo viên ra đề rồi phát hiện học trò mẹo làm bài trắc nghiệm.
Người thử đối kháng có nhịp khác: nhận một phiên bản mô hình sắp phát hành, có vài ngày để tìm lỗi. Họ thử đóng vai người dùng có ý xấu, người dùng ngây thơ, người dùng nói giọng địa phương, người dùng viết sai chính tả, ghi lại mọi trường hợp mô hình cư xử không đúng. Phần quan trọng không phải tìm được lỗi mà là mô tả lỗi đủ rõ để người khác tái hiện và sửa.
Người làm diễn giải có thể dành cả tuần cho một câu hỏi hẹp, ví dụ mô hình nhỏ cộng hai số có nhớ bằng cách nào. Họ chạy hàng trăm biến thể, tắt từng phần của mô hình xem kết quả đổi ra sao, vẽ biểu đồ, rồi phần lớn giả thuyết đều sai. Hợp với người chịu được việc chậm và mơ hồ.
Kỹ sư hạ tầng an toàn có ngày giống kỹ sư phần mềm bình thường hơn: họp đầu ngày, viết mã, sửa lỗi, xem hệ thống giám sát báo động. Khác ở chỗ khách hàng của họ là các nhà nghiên cứu trong đội, và sản phẩm của họ quyết định đội có đo được rủi ro kịp trước khi phát hành hay không.
Còn người làm an toàn trong đội sản phẩm thì ngày nào cũng có việc bất ngờ: một phản ánh của người dùng, một câu trả lời gây tranh cãi trên mạng, một tính năng mới cần đánh giá rủi ro. Vai này cần bình tĩnh, giao tiếp tốt và hiểu kỹ thuật đủ để không bị qua mặt.
Chọn hướng theo tính cách và nền tảng
Thích làm đề, thích số liệu, cẩn thận. Hợp với thiết kế đánh giá.
Thích phá, thích tìm kẽ hở, sáng tạo. Hợp với thử đối kháng, miễn là giữ được kỷ luật ghi chép và đạo đức nghề.
Thích toán tuyến tính, kiên nhẫn, chịu được mơ hồ. Hợp với diễn giải.
Thích học tăng cường, thích câu hỏi "mục tiêu thật là gì". Hợp với căn chỉnh.
Thích xây hệ thống chạy ổn định. Hợp với kỹ sư hạ tầng an toàn.
Thích làm việc với người, viết tốt, hiểu sản phẩm. Hợp với vai an toàn trong đội sản phẩm hoặc phân tích chính sách kỹ thuật.
Nền ngôn ngữ học hoặc khoa học xã hội. Có lợi thế khi thiết kế đánh giá về ngôn ngữ, văn hoá, định kiến, đặc biệt với tiếng Việt.
Nền kiểm thử phần mềm. Chuyển sang thử đối kháng và đánh giá khá tự nhiên, vì tư duy tìm lỗi giống nhau.
Nền an ninh mạng. Gần với thử đối kháng và bảo vệ hệ thống AI trước lạm dụng.
Nền vật lý hoặc toán. Thường hợp với diễn giải và lý thuyết.
Chưa biết mình thích gì. Làm thử một bài tập nhỏ cho mỗi vai, cảm giác sau vài tuần sẽ rõ hơn mọi bài trắc nghiệm hướng nghiệp.
Ở Việt Nam hiện nay, cửa nào thực tế nhất?
Nói thẳng: số vị trí mang đúng tên "an toàn AI" trong nước hiện còn ít, và mình không có số liệu đáng tin để nói là bao nhiêu. Nhưng nội dung công việc thì đang có thật, chỉ mang tên khác: kỹ sư đánh giá mô hình, kỹ sư kiểm thử hệ thống AI, chuyên viên kiểm duyệt nội dung có dùng AI, kỹ sư dữ liệu chất lượng.
Các đội làm trợ lý ảo, tổng đài tự động, chatbot chăm sóc khách hàng bằng tiếng Việt đều cần người đo xem hệ thống trả lời sai ở đâu, có lộ thông tin khách không, có nói điều gây hại không. Đây là cửa vào gần nhất với thiết kế đánh giá và thử đối kháng.
Diễn giải và căn chỉnh thiên về nghiên cứu, cửa vào thường qua học sau đại học, qua các chương trình nghiên cứu ngắn hạn mở cho ứng viên quốc tế, hoặc làm từ xa cho các nhóm nghiên cứu ở nước ngoài. Đường này dài hơn và cạnh tranh hơn, đòi hỏi hồ sơ nghiên cứu cụ thể.
Một lời khuyên thực tế: đừng chờ có đúng vị trí mơ ước mới bắt đầu. Làm tốt việc đánh giá và kiểm thử AI ở một công ty trong nước vừa cho bạn kinh nghiệm thật với hệ thống đang chạy, vừa cho bạn những câu chuyện mà người chỉ học lý thuyết không có.
Vài ngộ nhận về nghề an toàn AI
Ngộ nhận đầu tiên là làm an toàn AI nghĩa là chống lại sự phát triển của AI. Thực tế phần lớn người làm nghề này làm việc ngay trong các đội phát triển, mục tiêu là giúp hệ thống đáng tin hơn để dùng được rộng hơn. Giống kỹ sư an toàn trong nhà máy, họ không đòi đóng cửa nhà máy mà đòi lan can, bình chữa cháy, quy trình kiểm tra.
Ngộ nhận thứ hai là nghề này chỉ dành cho người lo về siêu trí tuệ. Có người vào nghề vì lo những rủi ro dài hạn, có người vào vì muốn chatbot ngân hàng bớt trả lời sai cho khách. Cả hai đều làm những việc rất giống nhau hằng ngày: đo, thử, sửa, ghi chép. Bạn không cần đồng ý với một quan điểm nào về tương lai để làm tốt công việc.
Ngộ nhận thứ ba là nghề an toàn khô khan, chỉ toàn kiểm tra và lập biểu mẫu. Thử đối kháng hay diễn giải đòi hỏi sáng tạo không kém việc xây tính năng mới: bạn phải nghĩ ra những tình huống mà người thiết kế không nghĩ tới, hoặc đoán ra cách một hệ thống phức tạp đang vận hành từ những dấu vết rất nhỏ.
Ngộ nhận cuối là phải chọn đúng ngay từ đầu. Nhiều người trong nghề đã đổi vai vài lần, từ kiểm thử sang đánh giá, từ đánh giá sang diễn giải. Kỹ năng nền như đo cẩn thận, viết rõ, hiểu mô hình thì vai nào cũng dùng.
Câu hỏi thường gặp
Nghề an toàn AI có cần bằng tiến sĩ không?
Không phải vai nào cũng cần. Các vai nghiên cứu diễn giải, căn chỉnh, lý thuyết thường ưu tiên người có kinh nghiệm nghiên cứu, nhưng đánh giá, thử đối kháng, kỹ sư hạ tầng an toàn tuyển theo kỹ năng và sản phẩm đã làm.
Thử đối kháng mô hình AI có phải là hack không?
Mục đích khác hẳn. Người thử đối kháng làm việc có phép, trong phạm vi được giao, và báo lỗi cho bên phát triển để vá. Họ tuân theo quy tắc không công bố cách khai thác trước khi lỗi được sửa.
Người không giỏi toán có làm nghề an toàn AI được không?
Có những vai cần ít toán hơn, như thử đối kháng, an toàn trong đội sản phẩm, đánh giá về ngôn ngữ và văn hoá. Nhưng vẫn cần hiểu cơ bản mô hình học thế nào để không kết luận sai.
Làm an toàn AI từ xa cho công ty nước ngoài có được không?
Có người làm theo cách đó, thường qua hợp đồng dự án hoặc chương trình nghiên cứu. Cần tiếng Anh viết tốt, hồ sơ dự án công khai, và chú ý các thoả thuận bảo mật.
Nên chọn một hướng sớm hay thử nhiều hướng?
Năm đầu nên thử vài hướng bằng bài tập nhỏ. Khi đã có một dự án làm thật trong một hướng, tập trung vào đó sẽ giúp hồ sơ có chiều sâu hơn.
