Không cần một cỗ máy nổi loạn, AI vẫn có thể làm hỏng một tổ chức hay một nghề, chỉ bằng con đường âm thầm: mỗi ngày giao thêm một chút việc cho máy, mỗi năm bớt đi một chút kỹ năng tự làm, nhiều nơi cùng dùng vài hệ thống giống nhau. Từng quyết định đều hợp lý, nhưng cộng lại có thể đưa mình tới chỗ không còn ai đủ hiểu để kiểm tra máy, và không còn cách quay lại.
Giới nghiên cứu gọi đây là rủi ro cấu trúc hay rủi ro tích tụ. Nó khó thấy vì không có sự cố nào để chỉ vào, không có ai để trách. Bài này đi qua các cơ chế chính, dấu hiệu sớm, và những việc nhỏ mà doanh nghiệp, gia đình có thể làm từ bây giờ.
Câu chuyện một quán hải sản
Hình dung một quán hải sản gia đình ở bán đảo Sơn Trà. Năm đầu, chủ quán dùng phần mềm để nhận đặt bàn qua tin nhắn: tiện, khách hài lòng. Năm sau, phần mềm gợi ý luôn lượng hàng cần nhập mỗi sáng dựa trên lịch đặt bàn và thời tiết; chủ quán thấy nó đoán khá đúng nên thôi tự tính. Năm thứ ba, nó viết luôn thực đơn theo mùa và trả lời đánh giá của khách. Mỗi bước đều tiết kiệm thời gian thật.
Rồi người con gái tiếp quản quán. Cô chưa bao giờ phải tự ước lượng mỗi sáng nên nhập bao nhiêu ký mực, vì từ khi cô vào làm phần mềm đã làm việc đó. Một mùa, phần mềm được cập nhật và bắt đầu gợi ý sai, lúc thừa lúc thiếu. Cô thấy có gì đó không ổn nhưng không có trực giác để biết sai ở đâu, cũng không biết phải tính lại thế nào. Người cha thì đã quên cách tính sau mấy năm không làm.
Không ai trong câu chuyện này làm gì sai. Phần mềm không có ý xấu, nó chỉ sai như mọi phần mềm. Cái hỏng nằm ở chỗ khả năng kiểm tra máy đã dần biến mất mà không ai để ý. Đây chính là mô hình chung của rủi ro tích tụ: lợi ích đến ngay và rõ ràng, chi phí đến muộn và mờ nhạt.
Nhân câu chuyện lên quy mô một ngành, một nền kinh tế, ta có những câu hỏi lớn hơn: khi phần lớn văn bản, mã nguồn, phân tích do máy làm, ai còn đủ chuyên môn để biết máy sai? Khi nhiều ngân hàng, bệnh viện, cơ quan cùng dựa vào vài hệ thống giống nhau, một lỗi chung sẽ xuất hiện ở khắp nơi cùng lúc.
Các cơ chế rủi ro tích tụ
Phụ thuộc dần. Mỗi quy trình được tự động hoá là một quy trình mà tổ chức không còn làm tay được nhanh chóng nếu hệ thống ngừng.
Mất kỹ năng nền. Người mới không có cơ hội làm những việc cơ bản, nên không xây được trực giác để nhận ra kết quả bất thường.
Lỗi đồng loạt. Nhiều nơi dùng cùng một mô hình nền thì cùng mang một điểm yếu, như cả cánh đồng trồng một giống lúa dễ cùng mắc một bệnh.
Đồng nhất hoá suy nghĩ. Khi nhiều người cùng hỏi những hệ thống giống nhau, các ý tưởng, cách viết, lời khuyên dần giống nhau, và sự đa dạng giúp phát hiện sai lầm bị mỏng đi.
Quyết định không ai hiểu hết. Quy trình đi qua nhiều lớp máy, mỗi lớp hợp lý, nhưng không ai nắm được toàn bộ vì sao kết quả cuối lại như vậy.
Trách nhiệm loãng dần. Người vận hành nghĩ nhà cung cấp chịu trách nhiệm, nhà cung cấp nghĩ người dùng phải kiểm tra, cuối cùng không ai kiểm.
Tối ưu cho cái đo được. Hệ thống tối ưu những chỉ số dễ đo như lượt xem, thời gian xử lý, trong khi những giá trị khó đo như lòng tin, chất lượng quan hệ bị bỏ quên.
Ô nhiễm nguồn thông tin. Nội dung do máy tạo được đưa lên mạng, rồi được dùng để huấn luyện máy tiếp theo, dần làm loãng thông tin gốc.
Khoá chặt vào nhà cung cấp. Toàn bộ quy trình xây quanh một dịch vụ, khi dịch vụ đổi giá hay đổi điều khoản thì không có đường lui.
Tốc độ vượt khả năng giám sát. Máy ra quyết định nhanh và nhiều hơn khả năng người đọc lại, nên giám sát chỉ còn trên giấy.
Chuyển quyền lực lặng lẽ. Ai kiểm soát những hệ thống mà mọi người phụ thuộc thì có ảnh hưởng lớn, dù không ai chính thức trao quyền cho họ.
Khó đảo ngược. Sau vài năm, quay về cách làm cũ đòi hỏi tuyển và đào tạo lại người, dựng lại quy trình, tốn hơn nhiều so với lúc bỏ đi.
Vì sao rủi ro này khó được quan tâm
Rủi ro âm thầm thua thiệt trong mọi cuộc họp. Lợi ích của việc tự động hoá có số liệu cụ thể: tiết kiệm bao nhiêu giờ, giảm bao nhiêu nhân sự. Chi phí của việc mất kỹ năng thì không có con số nào, vì nó chỉ lộ ra vào một ngày không ai đoán trước.
Nó cũng không có kẻ thủ ác. Báo chí dễ đưa tin về một vụ lừa đảo bằng giọng giả hơn là về một ngành dần mất khả năng tự kiểm tra. Không có hình ảnh nào để minh hoạ, không có thời điểm nào để đánh dấu.
Thêm nữa, mỗi cá nhân hành động hợp lý đều góp phần vào nó. Một nhân viên dùng AI để làm nhanh hơn là hợp lý. Một công ty chọn nhà cung cấp phổ biến nhất là hợp lý. Một trường học cho học sinh dùng công cụ để luyện viết là hợp lý. Không ai thấy mình đang góp vào một rủi ro chung.
Đây là loại rủi ro mà phản ứng đúng không phải là cấm hay sợ, mà là thiết kế có chủ ý: dùng AI nhưng giữ lại những thứ cần giữ. Giống như người nông dân đồng bằng vẫn giữ vài giống lúa cũ dù giống mới cho năng suất cao hơn, để phòng ngày giống mới gặp bệnh.
Dấu hiệu sớm trong tổ chức của mình
Không ai làm tay được nữa. Hỏi thử: nếu hệ thống ngừng ba ngày, ai làm việc này và làm thế nào. Không ai trả lời được là dấu hiệu rõ.
Người mới không hiểu vì sao. Nhân viên mới biết bấm nút nào nhưng không giải thích được kết quả đúng hay sai dựa vào đâu.
Kết quả không còn bị chất vấn. Đã lâu không ai sửa hay phản đối đề xuất của máy.
Chỉ còn một nhà cung cấp. Toàn bộ quy trình quan trọng phụ thuộc vào một dịch vụ bên ngoài.
Không có tài liệu quy trình làm tay. Cách làm cũ chỉ nằm trong đầu vài người sắp nghỉ.
Văn bản ngày càng giống nhau. Báo cáo, thư từ, đề xuất của các phòng ban đọc lên cùng một giọng.
Không ai biết hệ thống được cập nhật khi nào. Nhà cung cấp đổi mô hình, hành vi đổi theo, nhưng không ai trong công ty được báo.
Chỉ số đẹp, khách vẫn không vui. Các con số tối ưu đều tốt lên nhưng phản hồi thật của khách không khá hơn.
Không ai được giao trách nhiệm kiểm tra. Hệ thống chạy, nhưng không có tên người nào gắn với việc đảm bảo nó chạy đúng.
Ngân sách đào tạo bị cắt vì đã có máy. Lý do "máy làm rồi, không cần học" xuất hiện trong các cuộc họp.
Khó trả lời câu hỏi đơn giản về hệ thống. Hỏi máy dựa vào dữ liệu nào để quyết định mà không ai trả lời được.
Việc nhỏ làm được ngay
Giữ một quy trình làm tay. Viết lại cách làm không có máy cho mỗi việc quan trọng và tập làm thử mỗi năm vài lần.
Cho người mới làm tay trước. Vài tuần đầu người mới làm việc cơ bản bằng tay để có trực giác, rồi mới dùng công cụ.
Kiểm tra chéo định kỳ. Thỉnh thoảng làm song song bằng tay và bằng máy, so kết quả.
Đa dạng nhà cung cấp cho việc quan trọng. Có ít nhất một phương án thay thế đã được thử.
Gắn tên người cho mỗi hệ thống. Người đó chịu trách nhiệm biết hệ thống đang làm gì và báo khi có thay đổi.
Theo dõi chỉ số khó đo. Định kỳ hỏi khách, hỏi nhân viên bằng câu hỏi mở chứ không chỉ nhìn số liệu tự động.
Ghi lại khi máy sai. Một sổ đơn giản giúp thấy máy sai theo kiểu nào và có tăng lên không.
Giữ tiếng nói riêng. Văn bản quan trọng nên có phần do người viết, để giữ giọng và cách nghĩ riêng của tổ chức.
Ở gia đình, cho con tự làm trước. Học sinh nên tự giải, tự viết trước rồi mới dùng công cụ để kiểm tra hoặc góp ý.
Hỏi nhà cung cấp về thay đổi. Yêu cầu được báo khi mô hình được cập nhật và giữ quyền dùng phiên bản cũ một thời gian.
Đánh giá lại hằng năm. Mỗi năm một lần xem tổ chức đang phụ thuộc vào AI ở đâu, và phần nào cần giữ lại khả năng tự làm.
Câu hỏi thường gặp
Rủi ro cấu trúc của AI là gì?
Là những rủi ro phát sinh từ cách AI được dùng rộng rãi trong xã hội, không gắn với một lỗi hay một kẻ xấu cụ thể. Ví dụ phụ thuộc quá mức, mất kỹ năng, lỗi đồng loạt khi nhiều nơi dùng chung hệ thống.
Dùng AI nhiều có làm người ta kém đi không?
Có thể, với những kỹ năng không còn được luyện. Điều này phụ thuộc vào cách dùng: dùng để làm thay hoàn toàn thì kỹ năng mai một, dùng để kiểm tra và góp ý cho việc mình tự làm thì kỹ năng có thể còn tốt lên.
Lỗi đồng loạt nghĩa là gì?
Là khi nhiều tổ chức dùng cùng một hệ thống hay mô hình nền, nên một điểm yếu của nó xuất hiện ở tất cả cùng lúc. Nó giống việc cả vùng trồng một giống cây, gặp đúng loại bệnh là mất mùa diện rộng.
Doanh nghiệp nhỏ có cần lo rủi ro tích tụ không?
Có, thậm chí rõ hơn doanh nghiệp lớn, vì doanh nghiệp nhỏ ít người và ít phương án dự phòng. Giữ được một người biết làm tay các việc chính và có phương án thay thế nhà cung cấp là đủ cho phần lớn trường hợp.
Có nên vì thế mà hạn chế dùng AI không?
Không nhất thiết. Mục tiêu là dùng có chủ ý: biết mình đang giao gì cho máy, giữ lại khả năng kiểm tra và khả năng làm thay khi cần. Hạn chế toàn bộ thường làm mất lợi ích thật mà không giảm được rủi ro chung.
