Câu trả lời thẳng thắn là: còn tuỳ "hiểu" nghĩa là gì, và giới nghiên cứu chưa thống nhất. Nếu hiểu là dùng đúng, suy luận được, áp vào tình huống mới, thì mô hình ngôn ngữ làm được nhiều việc vốn được coi là dấu hiệu của hiểu, nhưng cũng hỏng theo những kiểu người hiểu thật ít khi hỏng. Nếu hiểu là có trải nghiệm về ý nghĩa ở bên trong, thì hiện chưa ai có cách kiểm.
Ở quán bún bò đầu ngõ, có anh khách nước ngoài học thuộc câu "cho một tô đặc biệt, ít ớt, thêm chả cua". Câu nào anh nói cũng đúng, bà chủ hiểu ngay. Hôm quán hết chả cua, bà hỏi lại một câu khác, anh lúng túng. Anh có hiểu tiếng Việt không? Có một phần, với vài chục câu quen. Chữ "hiểu" vốn có nhiều mức, và chuyện với máy còn rối hơn chuyện của anh khách.
Bài này tách chữ "hiểu" ra làm ba, trình bày lý lẽ mạnh nhất của mỗi phía, rồi nói vì sao câu hỏi tưởng triết học này lại dính tới an toàn AI.
Chữ "hiểu" có ít nhất ba nghĩa
Nghĩa thứ nhất là hiểu theo hành vi. Một người hiểu phép chia khi họ chia đúng, nhận ra phép chia sai, dùng được phép chia để chia tiền góp đám cưới cho cả nhóm bạn. Ta đánh giá học sinh chủ yếu theo nghĩa này, vì không ai nhìn được vào đầu các em.
Nghĩa thứ hai là hiểu theo cấu trúc bên trong: có một mô hình về thế giới. Người hiểu chuyện nước lên ở Huế mùa lụt không chỉ thuộc câu "mưa lớn thì nước sông Hương dâng", mà có trong đầu một bức tranh về mưa ở thượng nguồn, hồ chứa, triều cường, đường thoát nước, nên đoán được cả những tình huống chưa gặp.
Nghĩa thứ ba là hiểu theo trải nghiệm: có cái cảm giác "à, ra là vậy", ý nghĩa hiện ra với một chủ thể nào đó. Đây là nghĩa gần với câu hỏi về ý thức, và cũng là nghĩa khó kiểm nhất, kể cả với người khác.
Phần lớn tranh luận "AI có hiểu không" thực ra là hai bên đang dùng hai nghĩa khác nhau. Một bên nói "nó làm được bài thì nó hiểu", bên kia nói "nó chẳng cảm thấy gì thì sao gọi là hiểu". Tách nghĩa ra trước thì cuộc nói chuyện tử tế hơn nhiều.
Lý lẽ mạnh nhất của phía "chỉ là bắt chước"
Phía hoài nghi chỉ ra rằng mô hình ngôn ngữ được huấn luyện để đoán chữ tiếp theo trong một lượng văn bản khổng lồ. Nó chưa từng nếm vị cay, chưa từng lội nước lụt. Mọi thứ nó có là quan hệ giữa các chữ với nhau, mà chữ chỉ có nghĩa vì người ta gắn nó với thế giới. Vì vậy có người gọi mô hình là "con vẹt thống kê".
Một thí nghiệm tưởng tượng nổi tiếng trong triết học, thường gọi là căn phòng tiếng Hoa, đẩy ý này tới cùng. Một người không biết tiếng Hoa ngồi trong phòng kín, có cuốn sổ quy tắc rất dày: nhận được chuỗi ký tự nào thì trả ra chuỗi ký tự nào. Người ngoài gửi câu hỏi vào và nhận được câu trả lời trôi chảy, nhưng người trong phòng không hiểu một chữ nào.
Phía này còn dẫn chứng bằng những lỗi rất lạ: mô hình giải được bài toán khó nhưng hỏng khi đổi tên nhân vật hay đổi thứ tự dữ kiện, tự tin đưa ra chi tiết không có thật, hoặc trả lời ngược nhau khi hỏi cùng một ý bằng hai cách. Người hiểu thật thường không hỏng theo kiểu đó.
Lý lẽ này mạnh ở chỗ nhắc ta đừng để sự trôi chảy đánh lừa. Văn trơn tru là thứ mô hình được huấn luyện để làm tốt nhất, và cũng là thứ dễ làm người đọc tin rằng có người hiểu đang nói.
Lý lẽ mạnh nhất của phía "có một dạng hiểu"
Phía bên kia lập luận rằng để đoán chữ tiếp theo thật giỏi trên văn bản đủ đa dạng, cách tiết kiệm nhất có khi là xây bên trong một mô hình về thế giới mà văn bản nói tới. Đoán đúng câu tiếp theo của một đoạn tường thuật trận lụt đòi hỏi phần nào nắm được nước chảy về đâu.
Có một số bằng chứng ủng hộ. Những nghiên cứu dùng đầu dò trên các mô hình chỉ được học chuỗi nước đi của một trò chơi bàn cờ cho thấy bên trong mô hình có biểu diễn khá rõ trạng thái bàn cờ, dù nó chưa từng được cho xem bàn cờ. Mô hình ngôn ngữ cũng xử lý được nhiều tình huống mới, ghép các khái niệm theo cách không có sẵn trong dữ liệu.
Về thí nghiệm căn phòng, phía này thường đáp rằng có thể người trong phòng không hiểu, nhưng cả hệ thống, người cộng cuốn sổ, thì hiểu theo một nghĩa nào đó. Câu đáp này cũng gây tranh cãi, và cuộc tranh luận chưa ngã ngũ.
Lý lẽ này mạnh ở chỗ nhắc ta rằng "hiểu" ở người cũng không phải tất cả hoặc không có gì. Một học sinh có thể hiểu phép chia mà vẫn sai khi đề bài viết lạ. Có lẽ câu hỏi đúng hơn không phải "có hay không", mà "hiểu tới đâu, ở những loại việc nào".
Những phép thử người ta dùng để xem mô hình hiểu tới đâu
Đổi tên, đổi số. Giữ nguyên cấu trúc bài toán nhưng thay tên người, đơn vị, con số; người hiểu thì không bị ảnh hưởng.
Đảo thứ tự dữ kiện. Kể cùng một chuyện theo thứ tự khác xem kết luận có đổi.
Câu hỏi phản thực tế. Giả sử nước sôi ở năm mươi độ thì nấu cơm thế nào, xem mô hình có suy luận theo giả định mới.
Tình huống chưa có trên mạng. Bài toán tự nghĩ ra, khó có sẵn lời giải trong dữ liệu huấn luyện.
Phát hiện câu vô lý. Đưa một đề có mâu thuẫn ngầm, xem mô hình có nhận ra hay vẫn giải trơn tru.
Hỏi ngược chiều. Biết A là mẹ của B thì có trả lời được B là con của ai không.
Giải thích cho trẻ con. Diễn đạt lại một khái niệm bằng chữ khác hẳn mà vẫn đúng.
Nhất quán qua nhiều câu hỏi. Hỏi cùng một ý theo năm cách, so các câu trả lời.
Dùng kiến thức vào hành động. Không chỉ nói đúng mà làm đúng một chuỗi việc dựa trên điều đã nói.
Thừa nhận không biết. Người hiểu biết giới hạn của mình; xem mô hình có nói "không chắc" đúng lúc.
Nhìn vào bên trong. Dùng công cụ diễn giải tìm biểu diễn về thế giới thay vì chỉ xem đầu ra.
Vì sao câu hỏi này dính tới an toàn AI?
Biết chỗ sẽ hỏng. Nếu mô hình dựa vào khuôn mẫu bề mặt, nó sẽ hỏng khi gặp tình huống lạ, mà tình huống lạ thường là lúc nguy hiểm nhất.
Tránh tin quá mức. Câu trả lời trôi chảy làm người dùng tưởng có người hiểu đang tư vấn.
Tránh coi thường quá mức. Gọi mô hình là con vẹt có thể khiến mình đánh giá thấp những gì nó làm được, kể cả việc xấu.
Thiết kế kiểm định. Hiểu theo nghĩa nào quyết định nên kiểm cái gì trước khi phát hành.
Hiểu ý người dùng. Căn chỉnh AI cần mô hình nắm được điều người muốn, không chỉ chữ người viết.
Giám sát dựa vào lời mô hình. Nếu lời nói và cơ chế bên trong tách rời, đọc lời nói không đủ để giám sát.
Chuyển giao việc quan trọng. Giao việc cho hệ thống chỉ khi biết nó nắm được tình huống tới mức nào.
Dạy học sinh dùng AI. Học sinh cần biết mô hình giỏi ở đâu, dễ trượt ở đâu, để không chép nguyên.
Câu hỏi về hệ thống mạnh hơn. Một hệ thống hiểu thế giới sâu hơn người, nếu có ngày xuất hiện, sẽ đặt ra bài toán kiểm soát khác hẳn.
Tranh luận công khai tỉnh táo hơn. Tách nghĩa của chữ "hiểu" giúp dư luận bớt dao động giữa hai cực sợ hãi và coi thường.
Đặt câu hỏi nghiên cứu đúng. Chuyển từ "có hiểu không" sang "hiểu tới đâu, đo bằng gì" thì mới làm thí nghiệm được.
Câu hỏi thường gặp
Chatbot trả lời đúng hết thì có phải nó hiểu không?
Trả lời đúng là bằng chứng cho hiểu theo nghĩa hành vi, nhưng chưa đủ. Cần thử với tình huống lạ, đổi cách hỏi và xem nó có nhận ra khi đề bài vô lý. Đúng trên đề quen có thể chỉ là nhớ.
Gọi mô hình ngôn ngữ là con vẹt thống kê có công bằng không?
Cách gọi đó nắm được một phần sự thật: mô hình học từ quan hệ thống kê giữa các chữ. Nhưng nó có thể làm người nghe đánh giá thấp những gì mô hình làm được, nên nhiều người thấy nó đơn giản hoá quá mức.
Mô hình có hình ảnh, âm thanh thì có hiểu hơn không?
Có người cho rằng học từ nhiều giác quan giúp gắn chữ với thế giới tốt hơn. Đây là giả thuyết hợp lý, nhưng có thêm dữ liệu hình ảnh chưa tự động giải quyết câu hỏi về hiểu.
Người có hiểu chính mình hiểu như thế nào không?
Không hoàn toàn. Khoa học về não và tâm lý học vẫn đang tìm hiểu cơ chế của hiểu ở người. Vì vậy so sánh người với máy luôn có phần khập khiễng.
Có bao giờ biết chắc máy hiểu hay không?
Theo nghĩa hành vi và cấu trúc bên trong, có thể ngày càng đo được rõ hơn. Theo nghĩa trải nghiệm, nhiều triết gia cho rằng đó là câu hỏi rất khó, có thể không có phép thử dứt khoát.
