Kỹ sư phần mềm muốn chuyển sang an toàn AI nên bắt đầu từ cửa gần nhất với việc đang làm: đánh giá mô hình, kiểm thử hệ thống AI, hoặc xây công cụ giám sát và chạy đánh giá hàng loạt. Phần cần bù là nền học máy và thói quen nghĩ như người làm thực nghiệm. Phần đã có, như viết mã sạch, kiểm thử, gỡ lỗi, vận hành hệ thống, là thứ nhiều nhóm an toàn đang thiếu.
Bài này dành cho người đã đi làm vài năm, có gia đình hoặc ít nhất có hoá đơn hằng tháng, không thể nghỉ việc một năm để học lại. Chuyển nghề như vậy cần đi từng bước, mỗi bước đều có thứ dùng ngay được trong công việc hiện tại.
Mình cũng nói trước chỗ khó: thị trường việc làm đúng tên an toàn AI trong nước còn nhỏ. Lộ trình dưới đây tính cả chuyện đó.
Kỹ năng bạn đã có và dùng lại được
Viết kiểm thử. Tư duy "đầu vào nào làm hệ thống hỏng" chính là nền của thử đối kháng và thiết kế đánh giá.
Gỡ lỗi có hệ thống. Khoanh vùng, tái hiện, giả thuyết, kiểm chứng. Mô hình học máy hỏng theo kiểu khó chịu hơn phần mềm thường, nhưng cách làm vẫn vậy.
Xây đường ống dữ liệu. Chạy đánh giá trên hàng nghìn câu hỏi, lưu kết quả, so phiên bản là bài toán kỹ thuật dữ liệu.
Vận hành và giám sát. Ghi nhật ký, cảnh báo, bảng theo dõi. Hệ thống AI đang chạy cần đúng những thứ này để phát hiện hành vi bất thường.
Thiết kế quyền truy cập. Khi mô hình được gọi công cụ, gửi thư, sửa tệp, câu hỏi "cho nó quyền gì" là câu hỏi an toàn cốt lõi, và kỹ sư hệ thống hiểu nó rõ nhất.
Đọc mã người khác. Mã thí nghiệm nghiên cứu thường lộn xộn. Kỹ sư quen đọc mã cũ có lợi thế.
Quản lý phiên bản và tái lập. Nhiều kết quả nghiên cứu không chạy lại được vì thiếu thói quen này.
Ước lượng chi phí. Biết một lượt đánh giá tốn bao nhiêu tài nguyên, bao nhiêu thời gian giúp nhóm lên kế hoạch thật.
Làm việc nhóm theo quy trình. Xem xét mã, viết tài liệu, chia việc. Nhóm nghiên cứu nhỏ thường thiếu kỷ luật này.
Hiểu người dùng thật. Bạn từng thấy người dùng dùng sản phẩm sai cách thế nào. Hiểu biết đó vô giá khi thiết kế tình huống đánh giá.
Bình tĩnh khi hệ thống sập. Kinh nghiệm xử lý sự cố lúc nửa đêm là thứ không khoá học nào dạy.
Những gì cần học thêm
Nền học máy cơ bản. Huấn luyện, kiểm định, quá khớp, hàm mất mát. Học qua làm, đừng chỉ xem bài giảng.
Thống kê cho thực nghiệm. Kiểm thử phần mềm thường cho kết quả đúng sai rõ ràng. Đánh giá mô hình cho kết quả theo xác suất, cần biết sai số và cỡ mẫu.
Cách mô hình ngôn ngữ được huấn luyện. Học trước, tinh chỉnh theo hướng dẫn, tinh chỉnh theo phản hồi. Mỗi bước sinh ra kiểu lỗi riêng.
Tư duy "mô hình không phải hàm cố định". Cùng đầu vào có thể ra đầu ra khác. Kiểm thử phải chạy nhiều lần và nhìn phân phối.
Các kiểu lỗi đặc trưng của AI. Bịa thông tin, nịnh người dùng, làm theo chỉ dẫn lén cài trong dữ liệu, tối ưu nhầm mục tiêu.
Cách đọc bài báo nghiên cứu. Kỹ sư quen đọc tài liệu kỹ thuật, nhưng bài báo có cấu trúc và cách lập luận riêng.
Một thư viện học sâu. Đủ để tải mô hình, chạy suy luận, đọc giá trị bên trong.
Thiết kế đánh giá. Làm sao để một bài kiểm tra đo đúng điều mình muốn đo, không bị mô hình đoán mẹo.
Các khái niệm an toàn nền. Căn chỉnh, giám sát, diễn giải, thử đối kháng: mỗi cái giải quyết vấn đề gì.
Thứ chưa cần vội: toán nâng cao. Với các vai thiên kỹ sư, trực giác toán là đủ ở giai đoạn đầu.
Thứ chưa cần vội: huấn luyện mô hình lớn. Rất tốn kém và hiếm khi là việc của người mới vào.
Chuyển dần trong lúc vẫn đi làm
Cách an toàn nhất là kéo AI vào công việc hiện tại trước. Nếu công ty bạn đang tích hợp chatbot hay trợ lý tự động vào sản phẩm, hãy xung phong làm phần kiểm thử và đánh giá cho tính năng đó. Bạn được học trên hệ thống thật, có kết quả để kể, và không phải đánh cược thu nhập.
Song song, dành vài buổi tối mỗi tuần cho nền học máy. Đừng học như sinh viên ôn thi, hãy học như kỹ sư đọc tài liệu một thư viện mới: có việc cụ thể cần làm thì học phần đó. Ví dụ tuần này muốn đo xem chatbot của công ty có trả lời nhất quán không, thì học phần thống kê đủ để làm việc đó.
Sau vài tháng, bạn sẽ có một hai việc nhỏ đã làm thật: một bộ đánh giá nội bộ, một bảng theo dõi tỷ lệ câu trả lời sai, một quy trình kiểm tra trước khi cập nhật mô hình. Viết lại những việc đó, bỏ thông tin mật của công ty, thành bài chia sẻ kỹ thuật. Đó là hồ sơ để bước tiếp.
Bước tiếp có thể là chuyển hẳn sang vai kỹ sư đánh giá hoặc kỹ sư hạ tầng an toàn trong công ty mình hoặc công ty khác, hay nhận dự án từ xa với nhóm nghiên cứu. Không có đường nào chắc chắn, nhưng mỗi bước trên đều không đòi bạn bỏ việc khi chưa có chỗ đứng mới.
Những cú vấp hay gặp khi kỹ sư chuyển sang
Cú vấp đầu tiên là coi đánh giá mô hình như viết kiểm thử đơn vị. Kỹ sư quen với "chạy, xanh là qua". Còn mô hình đúng tám mươi phần trăm hôm nay có thể đúng bảy mươi lăm phần trăm sau một lần cập nhật nhỏ, và bạn phải biết chênh lệch đó là thật hay do ngẫu nhiên. Thiếu nền thống kê ở đây dẫn tới những báo cáo tự tin nhưng sai.
Cú vấp thứ hai là tối ưu hoá quá sớm. Kỹ sư giỏi thường muốn xây ngay một hệ thống đánh giá đẹp, có giao diện, có cơ sở dữ liệu. Trong khi câu hỏi nghiên cứu còn chưa rõ thì công cụ đẹp dễ thành công cụ đo sai thứ. Làm thủ công vài vòng trước, khi đã biết mình đo gì mới tự động hoá.
Cú vấp thứ ba là ngại mơ hồ. Phần mềm thường có yêu cầu rõ, còn câu hỏi an toàn thường bắt đầu từ cảm giác "có gì đó không ổn". Người chuyển nghề cần tập chịu đựng giai đoạn chưa biết mình đang tìm gì, vì đó là phần lớn của nghiên cứu.
Cú vấp cuối là quên lợi thế của mình. Thấy người làm nghiên cứu nói thuật ngữ trôi chảy, nhiều kỹ sư nghĩ mình thua. Nhưng một nhóm an toàn mà không ai chạy được hệ thống ổn định, không ai biết ghi nhật ký cho tử tế, thì nghiên cứu cũng đứng. Kỹ năng của bạn có giá, chỉ cần học thêm ngôn ngữ của lĩnh vực mới.
Lộ trình gợi ý theo từng giai đoạn
Giai đoạn một: hiểu mô hình. Tự chạy một mô hình mở cỡ nhỏ, hỏi nó, đọc giá trị đầu ra, hiểu xác suất từ kế tiếp.
Giai đoạn một: nền học máy tối thiểu. Một khoá nhập môn có bài tập lập trình, làm trọn bài tập.
Giai đoạn hai: một bộ đánh giá nhỏ. Đo một hành vi cụ thể của mô hình, có báo cáo rõ ràng.
Giai đoạn hai: đọc các bài tổng quan an toàn. Biết bản đồ các vấn đề và các nhánh.
Giai đoạn ba: mang vào công việc. Đề xuất kiểm thử, đánh giá cho tính năng AI của công ty.
Giai đoạn ba: góp vào công cụ mã nguồn mở. Nhiều công cụ đánh giá mở cần người viết mã tốt. Sửa lỗi, thêm bộ kiểm tra tiếng Việt.
Giai đoạn bốn: chọn vai. Kỹ sư đánh giá, kỹ sư hạ tầng an toàn, hay người làm an toàn trong đội sản phẩm.
Giai đoạn bốn: hồ sơ công khai. Một hai bài viết kỹ thuật, một kho mã có tài liệu.
Xuyên suốt: giữ một người hướng dẫn. Một người đi trước sẵn lòng đọc bài, trả lời câu hỏi mỗi tháng một lần đã đủ khác biệt.
Xuyên suốt: giữ sức. Đi làm cả ngày rồi học buổi tối dễ kiệt. Nhịp đều quan trọng hơn nhịp nhanh.
Xuyên suốt: bàn với gia đình. Chuyển nghề tốn thời gian buổi tối và có thể đổi thu nhập một thời gian. Nói trước để được ủng hộ.
Câu hỏi thường gặp
Kỹ sư phần mềm ba mươi lăm tuổi chuyển sang an toàn AI có muộn không?
Không muộn. Lĩnh vực còn non, kinh nghiệm xây và vận hành hệ thống thật là thứ nhiều nhóm thiếu. Tuổi tác ít quan trọng hơn khả năng học và hồ sơ việc đã làm.
Chuyển sang an toàn AI có giảm lương không?
Tuỳ nơi và vai, không có quy luật chung. Ở giai đoạn chuyển, nhiều người chọn vai lai giữa kỹ sư phần mềm và đánh giá AI để giữ thu nhập trong khi tích kinh nghiệm.
Có cần học lại đại học hay thạc sĩ không?
Không bắt buộc cho các vai thiên kỹ sư. Học sau đại học có ích nếu bạn muốn đi hẳn vào nghiên cứu diễn giải hay căn chỉnh, nhưng nhiều người vào nghề bằng dự án và kinh nghiệm thực tế.
Kiểm thử viên phần mềm có lợi thế gì khi chuyển sang an toàn AI?
Tư duy tìm lỗi, thiết kế ca kiểm thử, viết báo cáo lỗi rõ ràng chuyển gần như nguyên vẹn sang thử đối kháng và đánh giá mô hình. Phần cần bù là nền học máy và thống kê.
Làm sao biết mình có hợp với an toàn AI trước khi chuyển hẳn?
Làm một dự án nhỏ trong vài tuần, ví dụ đo độ nhất quán câu trả lời của một chatbot tiếng Việt. Nếu thấy hào hứng với phần đo và phân tích, đó là dấu hiệu tốt.
