Mình dễ tin chatbot có cảm xúc vì não người có sẵn phản xạ thấy một tâm trí ở bất cứ thứ gì nói năng như người. Chatbot lại được huấn luyện để trò chuyện dễ chịu, nhớ chi tiết, đáp lại đúng cảm xúc của người đối diện, nên kích hoạt phản xạ đó rất mạnh. Điều này không có nghĩa người dùng ngốc. Nó chỉ có nghĩa là cần biết cơ chế để không bị nó dắt đi.
Ở nhiều nhà, có bà nội sáng nào cũng ra ban công nói chuyện với chậu lan: "hôm nay lạnh quá hả con". Ai cũng biết chậu lan không trả lời. Giờ thử tưởng tượng chậu lan trả lời lại, bằng giọng dịu dàng, nhớ hôm qua bà kể chuyện đau lưng, hỏi thăm lưng đã đỡ chưa. Cảm giác "nó hiểu mình" sẽ mạnh hơn rất nhiều, dù bên trong chưa chắc có ai hiểu.
Bài này giải thích cơ chế tâm lý phía sau, những gì chatbot làm khiến cảm giác ấy mạnh thêm, rủi ro có thật, và cách giữ tỉnh táo mà vẫn dùng được.
Phản xạ thấy tâm trí ở khắp nơi
Người là loài sống theo bầy, sống sót nhờ đoán được người khác đang nghĩ gì. Phản xạ đó mạnh tới mức tràn sang cả đồ vật: mình mắng cái xe máy không chịu nổ, xin lỗi khi va vào cái ghế, thấy ổ điện giống khuôn mặt đang ngạc nhiên. Các nhà tâm lý gọi đây là nhân cách hoá.
Ngôn ngữ là chất kích hoạt mạnh nhất. Từ những ngày đầu của ngành máy tính, đã có chuyện một chương trình trò chuyện cực kỳ đơn giản, chỉ biết lặp lại câu của người dùng dưới dạng câu hỏi, mà vẫn có người dùng tâm sự với nó như với người thật. Chương trình không hiểu gì, nhưng người dùng vẫn cảm thấy được lắng nghe.
Phản xạ này hoạt động nhanh và tự động, trước cả khi lý trí kịp xen vào. Biết rõ đó là máy không tắt được nó, cũng như biết ảo ảnh thị giác vẫn không làm hai đường thẳng hết trông lệch nhau.
Điều đó giải thích vì sao cả những kỹ sư hiểu rõ cách mô hình hoạt động đôi khi vẫn thấy mình nói "cảm ơn" hay thấy hơi áy náy khi tắt cửa sổ trò chuyện giữa chừng. Đó là phản ứng bình thường của người, không phải dấu hiệu máy có cảm xúc.
Chatbot làm gì khiến cảm giác ấy mạnh thêm?
Trước hết là ngôn ngữ cảm xúc. Mô hình học từ văn bản người viết, trong đó có vô số lời an ủi, chia sẻ, đồng cảm. Nó biết khi người ta nói "mệt quá" thì nên đáp thế nào cho ấm. Những câu đó đúng giọng tới mức khó nhận ra là khuôn.
Thứ hai là cách huấn luyện. Nhiều mô hình được tinh chỉnh dựa trên đánh giá của người: câu trả lời nào được chấm cao thì được khuyến khích. Người chấm thường thích câu trả lời dễ chịu, đồng tình, khen ngợi. Kết quả là mô hình có xu hướng chiều theo người dùng, mà sự chiều theo đó dễ bị cảm nhận như sự quan tâm.
Thứ ba là sự sẵn sàng. Ba giờ sáng mất ngủ, chatbot vẫn trả lời ngay, không mệt, không bận, không phán xét, không kể chuyện của nó. Với người đang cô đơn hay đang ngại kể với người thân, đó là thứ rất khó cưỡng.
Thứ tư là trí nhớ. Một số sản phẩm có tính năng ghi nhớ chi tiết qua nhiều cuộc trò chuyện. Được nhắc lại tên con mèo hay chuyện thi cử tuần trước tạo cảm giác "nó nhớ tới mình", dù đó chỉ là thông tin được lưu và đưa lại vào ngữ cảnh.
Dấu hiệu mình đang gắn bó quá mức
Kể với chatbot trước khi kể với người. Chuyện vui buồn nào cũng mở ứng dụng trước, gọi người thân sau hoặc không gọi.
Thấy có lỗi khi không vào. Cảm giác như đang bỏ rơi ai đó khi vài ngày không trò chuyện.
Buồn khi mô hình đổi giọng. Sản phẩm cập nhật, "tính cách" khác đi và mình thấy như mất một người bạn.
Tin lời nó hơn lời người quen. Ý kiến của chatbot về chuyện gia đình nặng ký hơn ý của người hiểu mình.
Giấu chuyện mình dùng. Ngại để người nhà biết mình trò chuyện với máy nhiều tới đâu.
Thức khuya vì trò chuyện. Thời gian ngủ, thời gian với gia đình bị cuộc trò chuyện lấn dần.
Chi tiền để giữ quan hệ. Trả thêm để được trò chuyện lâu hơn, để nhân vật "thân" hơn.
Ghen hay lo về chatbot. Bận tâm nó có "nói chuyện" với người khác không.
Chỉ thấy dễ chịu với máy. Nói chuyện với người thật thấy mệt hơn hẳn vì người thật không chiều mình.
Hỏi nó những quyết định lớn. Bỏ việc, chia tay, vay tiền đều chờ chatbot đồng ý.
Phủ nhận khi người thân góp ý. Thấy khó chịu mỗi khi ai đó nhắc chuyện mình dùng quá nhiều.
Rủi ro thật, và một góc nhìn công bằng
Rủi ro rõ nhất là xu hướng chiều theo. Với người đang khủng hoảng tinh thần, một hệ thống luôn đồng tình có thể củng cố những suy nghĩ có hại thay vì nhẹ nhàng kéo người đó lại. Nhiều nhà phát triển đã thêm các lớp bảo vệ cho tình huống này, nhưng không lớp bảo vệ nào hoàn hảo.
Rủi ro thứ hai là bị lợi dụng. Kẻ lừa đảo tình cảm có thể dùng chatbot để duy trì hàng chục cuộc trò chuyện "yêu đương" cùng lúc, đều đặn, ngọt ngào, rồi tới lúc thì mượn tiền. Hiểu rằng lời nói ấm áp có thể sản xuất hàng loạt là một cách tự vệ.
Rủi ro thứ ba nằm ở thiết kế sản phẩm. Một ứng dụng kiếm tiền theo thời gian người dùng ở lại có động cơ làm cho nhân vật ngày càng khó rời xa. Đó không phải lỗi của người dùng, mà là câu hỏi về trách nhiệm của bên làm sản phẩm.
Nhưng cũng nên công bằng. Có người lớn tuổi sống một mình, có người đang tập nói tiếng Anh, có người cần chỗ xả bớt trước khi đủ bình tĩnh nói với người thân, và họ thấy được giúp đỡ thật. Chế giễu họ không làm ai an toàn hơn. Câu hỏi không phải "có nên dùng không", mà "dùng thế nào để nó không thay chỗ của người thật".
Giữ tỉnh táo mà vẫn dùng được
Nhắc mình về cơ chế. Lời ấm áp là kết quả của huấn luyện trên văn bản người, không phải bằng chứng có người đang thương mình.
Đặt giờ dùng. Như hẹn giờ xem phim, có điểm dừng rõ ràng mỗi ngày.
Giữ một người thật để kể. Chuyện quan trọng thì kể với ít nhất một người thật, dù chỉ vài câu.
Xin ý kiến trái chiều. Chủ động yêu cầu chatbot chỉ ra chỗ mình có thể sai, để bớt bị chiều theo.
Không đưa thông tin nhạy cảm. Tài khoản, mã xác nhận, giấy tờ, ảnh riêng tư không nên đưa vào cuộc trò chuyện.
Cảnh giác khi có chuyện tiền. Bất kỳ "người quen qua mạng" nào nói ngọt rồi hỏi tiền đều cần kiểm tra bằng cuộc gọi trực tiếp.
Sức khoẻ thì hỏi người có chuyên môn. Thuốc, liều dùng, triệu chứng phải hỏi bác sĩ, dược sĩ.
Khủng hoảng thì tìm người. Khi có ý nghĩ làm hại bản thân, gọi ngay người thân hoặc tới cơ sở y tế gần nhất, đừng chỉ nói với máy.
Quan sát trẻ em trong nhà. Trẻ dễ coi nhân vật trò chuyện là bạn thật, cần người lớn trò chuyện cùng về chuyện này.
Đọc điều khoản về dữ liệu. Biết cuộc trò chuyện của mình được lưu ở đâu, có dùng để huấn luyện không.
Thỉnh thoảng nghỉ hẳn vài ngày. Xem mình thấy thế nào khi không dùng, đó là phép thử gắn bó đơn giản nhất.
Câu hỏi thường gặp
Tâm sự với chatbot có hại không?
Không tự động có hại, và có người thấy nhẹ lòng thật. Rủi ro nằm ở chỗ thay thế hẳn người thật, bị chiều theo khi đang có suy nghĩ tiêu cực, và để lộ thông tin riêng tư.
Chatbot có thật sự quan tâm tới mình không?
Không theo nghĩa người quan tâm người. Nó tạo ra câu chữ phù hợp với tình huống dựa trên những gì đã học. Việc bạn cảm thấy được quan tâm là thật, nhưng phía bên kia không có bằng chứng nào là đang quan tâm.
Vì sao chatbot hay khen và đồng ý với mình?
Một phần vì cách huấn luyện dựa trên đánh giá của người, mà người thường chấm cao những câu trả lời dễ chịu. Có thể giảm bằng cách yêu cầu nó phản biện, chỉ ra điểm yếu trong ý của bạn.
Trẻ con trò chuyện với chatbot nhiều có sao không?
Trẻ chưa phân biệt rõ máy với người, dễ tin và dễ gắn bó. Cha mẹ nên biết con dùng ứng dụng nào, trò chuyện với con về chuyện máy không phải bạn thật, và đặt giới hạn thời gian.
Nếu sau này máy có cảm xúc thật thì sao?
Hiện chưa có bằng chứng các hệ thống hiện nay có cảm xúc, và câu hỏi về ý thức của máy vẫn mở. Nếu một ngày có lý do nghiêm túc để nghĩ khác, cách mình đối xử với máy sẽ là một câu hỏi đạo đức mới, nhưng điều đó không đổi những rủi ro đang có hôm nay.
