Dữ liệu tiếng Việt dùng để tinh chỉnh một mô hình AI cần đạt ba điều: sạch, có phép, và đủ vùng miền. Sạch là đúng chính tả, đúng mã hoá dấu, không trùng lặp, nhãn nhất quán. Có phép là người viết ra dữ liệu và người được nhắc tới trong đó không bị xâm phạm, thông tin cá nhân được loại bỏ. Đủ vùng miền là không chỉ có văn phong của một vùng hay một tầng lớp. Thiếu điều nào, mô hình sẽ học luôn cái thiếu đó.
Tinh chỉnh nghĩa là lấy một mô hình đã học sẵn rồi dạy thêm cho nó một việc hẹp: trả lời khách theo giọng công ty, tóm tắt hồ sơ theo mẫu, phân loại phản ánh của người dân. Lượng dữ liệu cần thường nhỏ hơn nhiều so với huấn luyện từ đầu, nên từng mẫu càng có sức nặng. Một trăm mẫu bẩn trong vài nghìn mẫu có thể làm lệch cả hành vi.
Vì sao dữ liệu là chỗ an toàn bắt đầu
Nhiều người nghĩ an toàn AI là chuyện bộ lọc gắn ở cuối, chặn câu trả lời xấu. Bộ lọc cần, nhưng phần lớn hành vi của mô hình sau tinh chỉnh đến từ dữ liệu bạn đưa vào. Giống như dạy một nhân viên mới bằng cách cho đọc hồ sơ cũ: nếu hồ sơ cũ có những câu trả lời cộc lốc, những lời hứa sai với khách, nhân viên mới sẽ học đúng những thứ đó.
Một ví dụ dễ gặp: công ty lấy lịch sử chat chăm sóc khách hàng ba năm để tinh chỉnh chatbot. Trong đó có những lần nhân viên lỡ đọc số điện thoại, địa chỉ của khách khác, những lần hứa hoàn tiền sai chính sách, những lần trả lời theo chính sách cũ đã hết hiệu lực. Không lọc, chatbot sẽ tái hiện tất cả, có khi còn lặp nguyên văn thông tin cá nhân.
Dữ liệu cũng quyết định mô hình đối xử công bằng tới đâu. Nếu các mẫu trả lời lịch sự, chu đáo phần lớn là với khách viết chuẩn chính tả, còn khách viết không dấu, viết giọng địa phương thì hay bị trả lời qua loa, mô hình có thể học luôn cách đối xử lệch đó.
Vì vậy chuẩn bị dữ liệu không phải việc tay chân giao cho thực tập sinh làm cho xong. Đó là nơi một tổ chức quyết định mô hình của mình sẽ cư xử ra sao, và là năng lực Việt Nam cần có nhiều người làm giỏi.
Làm sạch dữ liệu tiếng Việt: những bẫy riêng
Hai kiểu mã hoá dấu. Cùng một chữ có dấu có thể được lưu bằng ký tự dựng sẵn hoặc ký tự tổ hợp. Mắt nhìn giống hệt nhưng máy coi là khác. Chuẩn hoá về một kiểu trước mọi bước.
Đặt dấu thanh không thống nhất. Kiểu "hoà" và "hòa" cùng tồn tại. Chọn một quy ước và áp nhất quán.
Văn bản lẫn bảng mã cũ. Dữ liệu lấy từ hệ thống cũ có thể còn chữ lỗi bảng mã. Phát hiện bằng cách tìm ký tự lạ.
Trùng lặp gần giống. Câu trả lời mẫu được nhân viên sao chép hàng nghìn lần chỉ đổi tên khách. Giữ quá nhiều bản làm mô hình lệch về câu đó.
Câu trả lời đã lỗi thời. Chính sách, giá, quy định thay đổi. Gắn ngày và lọc theo thời điểm còn hiệu lực.
Văn bản rác. Chữ ký thư, dòng quảng cáo, mã định dạng còn sót. Nhỏ nhưng nhiều thì làm bẩn văn phong.
Ngôn ngữ thô tục. Có trong dữ liệu thật. Quyết định rõ: loại bỏ, giữ để dạy mô hình cách ứng xử, hay giữ ở phần đầu vào nhưng không ở phần trả lời.
Không dấu và có dấu. Giữ cả hai ở phía câu hỏi để mô hình hiểu người dùng thật, nhưng phía câu trả lời nên viết chuẩn có dấu.
Nhãn mâu thuẫn. Hai câu gần giống nhau mà mang hai nhãn khác. Tìm và giải quyết từng cặp.
Kiểm bằng mắt người. Sau mọi bước tự động, đọc ngẫu nhiên vài trăm mẫu. Nhiều lỗi chỉ lộ ra khi người đọc.
Ghi lại từng bước làm sạch. Để biết dữ liệu cuối cùng khác dữ liệu gốc ở đâu, và làm lại được khi cần.
Có phép: thông tin cá nhân và sự đồng ý
Biết dữ liệu đến từ đâu. Mỗi nguồn ghi rõ: tự viết, thu từ khách hàng, mua, lấy từ nguồn công khai, với điều khoản đi kèm.
Đọc điều khoản trước khi dùng. Dữ liệu khách hàng thu cho mục đích chăm sóc chưa chắc được phép dùng để huấn luyện mô hình. Hỏi bộ phận pháp chế.
Loại bỏ thông tin định danh. Họ tên, số điện thoại, số giấy tờ, địa chỉ, số tài khoản. Dùng công cụ tự động rồi kiểm tay.
Coi chừng thông tin gián tiếp. Không có tên nhưng có "chị chủ tiệm tạp hoá đầu hẻm 5, mới sinh con thứ hai" vẫn đủ để người quen nhận ra.
Thay thế thay vì xoá trơn. Thay số điện thoại thật bằng số giả cùng định dạng giữ được văn cảnh mà không lộ ai.
Đặc biệt cẩn thận với dữ liệu nhạy cảm. Sức khoẻ, tài chính, trẻ em, tôn giáo. Nếu không thật cần, đừng đưa vào.
Người gán nhãn cũng có quyền. Họ biết mình đang làm gì, được trả công tương xứng, được hỗ trợ khi phải đọc nội dung độc hại.
Người viết mẫu biết mục đích. Nếu thuê người viết câu hỏi, câu trả lời mẫu, nói rõ dùng để huấn luyện mô hình nào, cho ai.
Giới hạn quyền truy cập dữ liệu thô. Chỉ ai cần mới được xem bản chưa làm sạch.
Có quy trình xoá khi được yêu cầu. Khi một khách hàng đề nghị không dùng dữ liệu của họ, phải tìm và xoá được.
Nguyên tắc chung trước, chi tiết hỏi luật sư. Quy định về dữ liệu cá nhân có thể thay đổi. Với việc lớn, hỏi người làm pháp lý thay vì tự đoán.
Đủ vùng miền và đủ kiểu người
Nếu toàn bộ câu trả lời mẫu do một nhóm nhân viên ở cùng một văn phòng viết, mô hình sẽ nói đúng giọng của nhóm đó. Với khách ở Nha Trang hay Hà Tĩnh, điều đó có thể không sao, cũng có thể làm họ thấy xa lạ. Quan trọng hơn là phía câu hỏi: mô hình phải được thấy cách người các vùng thật sự hỏi.
Cân đối không có nghĩa là chia đều cơ học mỗi vùng một phần ba. Nghĩa là nhìn vào khách hàng thật của mình, xem họ ở đâu, viết thế nào, rồi đảm bảo dữ liệu phản ánh đúng sự đa dạng đó, kể cả những nhóm ít nhưng quan trọng như người lớn tuổi, người dùng chữ không thạo.
Một cách kiểm đơn giản: chia dữ liệu theo nhóm, ví dụ có dấu và không dấu, hay theo vùng nếu có thông tin, rồi xem chất lượng câu trả lời mẫu có đều nhau không. Nếu nhóm nào toàn câu trả lời ngắn và qua loa, mô hình sẽ học cách đối xử qua loa với nhóm đó.
Thiếu dữ liệu một nhóm thì tự viết thêm có chủ đích, nhờ người thuộc nhóm đó viết hoặc duyệt. Đừng để mô hình tự sinh ra dữ liệu giả giọng địa phương rồi đưa ngược vào huấn luyện, vì nó dễ sinh ra một kiểu giọng địa phương rập khuôn, có khi thành chế giễu.
Hướng dẫn gán nhãn: tài liệu quan trọng nhất
Viết trước khi gán. Hướng dẫn gán nhãn là bản mô tả mình muốn mô hình học gì. Không có nó, mỗi người gán theo hiểu biết riêng.
Có ví dụ đúng và ví dụ sai. Mỗi nhãn kèm vài ví dụ rõ ràng và vài ví dụ dễ nhầm.
Có mục "không chắc". Cho người gán chọn "không chắc" thay vì buộc đoán. Các mẫu này đáng được xem lại.
Thử với một lô nhỏ. Vài người gán cùng một lô, so kết quả, sửa hướng dẫn ở chỗ lệch nhau.
Đo độ đồng thuận. Nếu hai người giỏi còn lệch nhau nhiều, vấn đề nằm ở hướng dẫn chứ không phải ở người.
Ghi lại mọi thay đổi hướng dẫn. Nhãn gán theo hướng dẫn cũ có thể phải gán lại.
Có cách hỏi đáp nhanh. Người gán gặp trường hợp lạ cần hỏi được người phụ trách trong ngày.
Đừng trả công thuần theo số lượng. Trả theo số mẫu dễ khuyến khích làm nhanh, ẩu. Kết hợp kiểm chất lượng ngẫu nhiên.
Luân phiên nội dung nặng nề. Người gán phải đọc nội dung bạo lực, xúc phạm cần được nghỉ, đổi việc, hỗ trợ tinh thần.
Ghi nhãn kèm lý do cho mẫu khó. Một câu lý do giúp người kiểm sau hiểu và giúp cải thiện hướng dẫn.
Giữ một tập vàng. Một nhóm mẫu đã được chuyên gia gán chắc chắn, chèn ngẫu nhiên để kiểm chất lượng người gán.
Câu hỏi thường gặp
Tinh chỉnh mô hình cần bao nhiêu dữ liệu tiếng Việt?
Tuỳ việc và tuỳ phương pháp, không có con số chung. Việc hẹp như phân loại hoặc giữ giọng văn đôi khi chỉ cần vài nghìn mẫu chất lượng. Chất lượng và độ phủ thường quan trọng hơn số lượng.
Có nên dùng dữ liệu do AI sinh ra để tinh chỉnh không?
Có thể dùng có kiểm soát, nhưng dễ làm mô hình học văn phong máy và lặp lại lỗi của mô hình sinh ra nó. Nên có người duyệt và giữ phần lớn dữ liệu là của người thật.
Làm sao xoá thông tin cá nhân trong văn bản tiếng Việt?
Kết hợp công cụ tự động tìm số điện thoại, số giấy tờ, email, tên riêng với kiểm tra bằng mắt. Chú ý thông tin gián tiếp có thể nhận ra người khi ghép lại.
Gán nhãn dữ liệu có phải việc đơn giản không?
Không. Gán nhãn tốt cần hiểu nghiệp vụ, đọc kỹ, và một bản hướng dẫn rõ ràng. Chất lượng nhãn quyết định trực tiếp hành vi của mô hình.
Dữ liệu chăm sóc khách hàng cũ có dùng được ngay không?
Thường phải làm sạch nhiều: loại thông tin cá nhân, câu trả lời sai chính sách, chính sách đã hết hiệu lực. Cũng cần kiểm tra điều khoản cho phép dùng dữ liệu vào mục đích huấn luyện.
