Mọi kỹ thuật căn chỉnh đều phải trả lời một câu hỏi trước: làm đúng ý ai, theo chuẩn mực nào. Người dùng muốn một điều, nhà phát triển muốn một điều, cộng đồng xung quanh người dùng có thể muốn điều khác nữa. Các nền văn hoá có chuẩn mực khác nhau về lễ phép, về chuyện gì nên nói thẳng, về quyền riêng tư, về quan hệ gia đình. Không có bộ giá trị trung lập nào để cài sẵn.
Hướng được nhiều người làm nghề chấp nhận là tách hai tầng: một tầng hẹp những nguyên tắc gần như ai cũng đồng ý như không giúp gây hại nghiêm trọng, trung thực, tôn trọng người dùng; và một tầng rộng những cách cư xử được điều chỉnh theo bối cảnh. Cái khó là vạch ranh giới giữa hai tầng, và ai được ngồi vào bàn để vạch.
Một mâm cơm, ba ý kiến
Thử tưởng tượng một gia đình ba thế hệ ở Hà Nội cùng dùng một trợ lý AI. Bà muốn nó xưng hô lễ phép, nhắc ngày giỗ. Bố mẹ muốn nó giúp con học nhưng không làm bài hộ. Cậu con trai mười lăm tuổi muốn nó trả lời thẳng những câu hỏi mà cậu ngại hỏi người lớn. Ba mong muốn đều chính đáng, và có chỗ va nhau.
Trợ lý nên ưu tiên ai? Cậu con trai là người đang gõ câu hỏi. Bố mẹ là người trả tiền và chịu trách nhiệm. Bà đại diện cho những chuẩn mực mà gia đình coi trọng. Không có thuật toán nào trả lời câu này thay con người, và mỗi lựa chọn đều là một quyết định giá trị.
Ở quy mô một sản phẩm phục vụ hàng trăm triệu người, câu hỏi đó nhân lên rất nhiều lần. Nhà phát triển phải viết ra thứ tự ưu tiên giữa chỉ dẫn của họ, của doanh nghiệp tích hợp sản phẩm, và của người dùng cuối, cùng những giới hạn không ai được vượt. Những văn bản đó thực chất là bản hiến chương thu nhỏ cho hành vi của mô hình.
Điều đáng ghi nhận là xu hướng công khai những bộ nguyên tắc này ngày càng rõ, để người ngoài đọc, phê bình và so sánh. Điều cần cải thiện là ai được góp ý: tiếng nói từ những nước không làm mô hình, không nói tiếng Anh như tiếng mẹ đẻ, hiện còn mỏng.
Văn hoá đi vào mô hình bằng đường nào
Đường thứ nhất là dữ liệu. Mô hình học từ văn bản, và phần lớn văn bản trên mạng là tiếng Anh, viết bởi người sống ở một số nước. Cách họ nhìn chuyện gia đình, chuyện tiền bạc, chuyện đúng sai thấm vào mô hình nhiều hơn cách nhìn của người Việt. Hỏi về một phong tục Việt, mô hình có thể trả lời đúng sự kiện mà sai sắc thái.
Đường thứ hai là người chấm và hướng dẫn chấm. Thế nào là câu trả lời "lịch sự", "phù hợp", "hữu ích" được định nghĩa bởi người viết hướng dẫn. Lời khuyên "hãy đặt ranh giới với cha mẹ" nghe tự nhiên ở một nền văn hoá, có thể nghe lạnh lùng ở nền văn hoá khác coi trọng chữ hiếu.
Đường thứ ba là ngôn ngữ chính nó. Tiếng Việt có hệ thống xưng hô phản ánh quan hệ, tuổi tác, mức thân sơ. Một mô hình gọi mọi người là "bạn" là đã chọn một cách cư xử. Chọn vậy có thể là hợp lý, nhưng nên là một lựa chọn có ý thức, không phải là mặc định do thiếu dữ liệu.
Chuyện này không có nghĩa mỗi nước cần một bộ giá trị riêng hoàn toàn. Có những điều nên giữ ở mọi nơi, như không giúp làm hại người khác, không lừa dối người dùng. Vấn đề là tầng rộng hơn, nơi sự khác biệt hợp lý cần được tôn trọng thay vì bị san phẳng theo một khuôn.
Các cách tiếp cận bài toán "giá trị của ai"
Bộ nguyên tắc công khai. Viết rõ mô hình được dạy theo nguyên tắc gì để công chúng đọc và phê bình.
Thứ bậc chỉ dẫn. Phân rõ quyền của nhà phát triển, doanh nghiệp tích hợp và người dùng cuối.
Tầng giá trị tối thiểu. Một số giới hạn cứng không phụ thuộc người dùng hay quốc gia.
Tùy biến có giới hạn. Cho phép điều chỉnh giọng điệu, mức thẳng thắn, cách xưng hô trong khung cho phép.
Tham vấn cộng đồng. Mời nhóm người dùng đa dạng góp ý vào nguyên tắc, không chỉ chuyên gia.
Người chấm đa văn hoá. Tuyển người chấm từ nhiều nước, nhiều ngôn ngữ.
Đánh giá theo ngôn ngữ. Đo riêng hành vi bằng tiếng Việt, không suy ra từ kết quả tiếng Anh.
Trung lập khi có tranh cãi. Với câu hỏi giá trị còn tranh luận, trình bày nhiều phía thay vì chọn một.
Minh bạch khi từ chối. Nói rõ vì sao không làm để người dùng hiểu đó là nguyên tắc chứ không phải lỗi.
Cập nhật theo phản hồi. Nguyên tắc được sửa khi thấy chúng gây bất công hoặc vô lý trong thực tế.
Tách sự thật với giá trị. Câu hỏi có đáp án sự thật thì trả lời đúng, không để chuẩn mực làm méo sự thật.
Việt Nam có thể góp gì
Dữ liệu tiếng Việt sạch, có giấy phép. Văn bản chất lượng về đời sống, văn hoá, nghề nghiệp của người Việt.
Bộ đánh giá hành vi bằng tiếng Việt. Tình huống giao tiếp Việt để đo mô hình xưng hô, khuyên bảo có hợp không.
Người chấm hiểu sắc thái. Đội ngũ đánh giá biết phân biệt câu trả lời đúng chữ mà sai sắc thái.
Ví dụ về chuẩn mực gia đình, cộng đồng. Những tình huống mà lời khuyên kiểu phương Tây không hợp.
Tiếng nói trong tham vấn quốc tế. Chuyên gia Việt tham gia góp ý vào các bộ nguyên tắc chung.
Kiểm tra mô hình nhập về. Doanh nghiệp và trường đại học đo xem mô hình cư xử với người Việt thế nào.
Phương ngữ và ngôn ngữ dân tộc. Không để giọng Bắc chuẩn hoá thành chuẩn duy nhất.
Nghiên cứu liên ngành. Nhà ngôn ngữ học, xã hội học, tâm lý học làm cùng kỹ sư.
Hướng dẫn cho doanh nghiệp. Cách viết chỉ dẫn hệ thống cho chatbot phục vụ khách Việt.
Giáo dục người dùng. Giúp người dùng biết mô hình có thể mang chuẩn mực khác, để đọc lời khuyên có chọn lọc.
Tránh áp đặt ngược. Góp tiếng nói không có nghĩa đòi mô hình cho cả thế giới theo chuẩn của mình.
Những chỗ dễ trượt khi bàn về giá trị trong AI
Coi giá trị của mình là hiển nhiên. Thứ mình thấy "ai cũng biết" thường chỉ là chuẩn mực của nhóm mình.
Coi mọi giá trị là tương đối. Vẫn có những điều nên giữ ở mọi nơi, như không giúp gây hại nghiêm trọng.
Đồng nhất văn hoá với một khuôn mẫu. Người Việt ở thành phố, nông thôn, các thế hệ có chuẩn mực khác nhau.
Để số đông quyết hết. Gộp ý kiến theo đa số có thể bỏ quên nhóm ít người.
Đổ hết cho nhà phát triển. Doanh nghiệp tích hợp và người dùng cũng có phần trách nhiệm.
Nhầm tùy biến với chiều chuộng. Cho người dùng điều chỉnh giọng điệu khác với để họ tắt mọi giới hạn.
Bỏ qua người không dùng AI. Hành vi của mô hình ảnh hưởng cả người bị nhắc tới, không chỉ người hỏi.
Nghĩ có thể giải xong một lần. Chuẩn mực xã hội thay đổi, nguyên tắc cũng cần cập nhật.
Chính trị hoá vấn đề. Bàn về giá trị trong AI nên ở mức nguyên tắc chung, không biến thành tranh cãi phe phái.
Tin rằng mô hình "trung lập". Mỗi lựa chọn trong huấn luyện đều mang theo một quan điểm.
Quên rằng đây cũng là chuyện kỹ thuật. Biến nguyên tắc thành hành vi ổn định là bài toán huấn luyện và đo lường khó.
Câu hỏi thường gặp
AI có trung lập về giá trị không?
Không hoàn toàn. Dữ liệu, người chấm, hướng dẫn huấn luyện và bộ nguyên tắc đều mang theo những lựa chọn giá trị. Điều có thể làm là minh bạch những lựa chọn đó và cho người dùng biết.
Chatbot nước ngoài có hiểu văn hoá Việt Nam không?
Thường hiểu ở mức sự kiện, nhưng có thể sai sắc thái trong lời khuyên về gia đình, xưng hô, quan hệ xã hội, vì dữ liệu tiếng Việt ít hơn nhiều. Nên đọc lời khuyên có chọn lọc.
Doanh nghiệp Việt có chỉnh được chatbot theo văn hoá khách hàng mình không?
Được ở mức nhất định, qua chỉ dẫn hệ thống, ví dụ mẫu và tinh chỉnh, trong giới hạn nhà cung cấp mô hình cho phép. Cần thử kỹ bằng tình huống thật của khách Việt.
Ai quyết định bộ nguyên tắc cho mô hình AI?
Chủ yếu là nhóm phát triển mô hình, có tham khảo chuyên gia và đôi khi tham vấn công chúng. Các khung quản lý ở nhiều nơi cũng đặt yêu cầu tối thiểu. Mức độ tham gia của các nước khác còn hạn chế.
Căn chỉnh theo giá trị có làm AI bị kiểm duyệt quá mức không?
Có thể, nếu giới hạn được đặt quá rộng hoặc thiếu minh bạch. Cách giảm rủi ro là giữ tầng giới hạn cứng thật hẹp, công khai nguyên tắc, và để người dùng tùy biến phần còn lại.
