Nếu hình dung AGI là một hệ thống có thể nhận một việc trí óc bất kỳ và làm đến nơi đến chốn như một người có nghề, thì các mô hình hiện nay còn thiếu ít nhất bốn mảnh: học tiếp sau khi đã đưa vào dùng, trí nhớ dài hạn đáng tin, khả năng làm một việc kéo dài nhiều ngày mà không lạc hướng, và một hình dung vững về thế giới vật lý. Nối các mảnh đó là độ tin cậy: làm đúng đều tay, và biết khi nào mình không chắc.
Không mảnh nào trong số này là bất khả. Nhiều nhóm đang làm từng mảnh, và một số đã có tiến bộ rõ. Nhưng chưa ai ghép đủ, và chưa ai chắc ghép đủ thì sẽ ra gì. Cách dễ hình dung nhất là so mô hình với một nhân viên mới vào làm.
Phép so sánh: một nhân viên mới rất sáng dạ nhưng mỗi sáng lại quên
Thử hình dung công ty bạn tuyển được một người đọc rất rộng, viết nhanh, biết lập trình, nói được nhiều thứ tiếng. Ngày đầu người đó làm rất ấn tượng. Nhưng mỗi sáng đi làm, người đó quên sạch những gì đã học hôm qua: quên tên khách hàng, quên quy trình riêng của phòng, quên lỗi mình đã mắc và đã được nhắc.
Đó gần đúng với tình trạng của mô hình ngôn ngữ lớn khi chưa được gắn thêm gì. Kiến thức của nó được đóng băng lúc huấn luyện xong. Trong một cuộc trò chuyện, nó nhớ những gì nằm trong khung hội thoại, nhưng cuộc sau bắt đầu lại từ đầu, trừ khi hệ thống bên ngoài ghi lại và đưa vào.
Người ta đang vá chỗ này bằng cách cho mô hình một cuốn sổ: lưu ghi chú, tra lại tài liệu nội bộ khi cần. Cách này giúp nhiều, nhưng khác với học thật. Một người thợ sau ba năm làm nghề không chỉ có cuốn sổ dày hơn, mà tay và mắt đã đổi. Mô hình hiện nay hầu như không đổi bên trong sau khi đã triển khai.
Học liên tục mà không quên cái cũ, không bị dạy hỏng bởi dữ liệu xấu, là bài toán khó và còn mở. Nó cũng là bài toán an toàn: một hệ thống tự học tiếp thì cũng có thể tự trôi khỏi những gì người ta đã kiểm tra.
Làm việc dài hơi và hiểu thế giới thật
Trả lời một câu hỏi là việc vài giây. Làm xong một dự án, như dựng một trang web bán hàng cho tiệm bánh, từ hỏi yêu cầu, viết mã, thử, sửa lỗi, tới hướng dẫn chủ tiệm dùng, là việc nhiều ngày với hàng trăm bước nhỏ. Mô hình hiện nay làm được ngày càng nhiều bước liên tiếp, nhưng việc càng dài thì xác suất lạc hướng càng cao.
Lý do rất đời thường: nếu mỗi bước đúng chín mươi tám phần trăm, thì sau năm mươi bước, khả năng cả chuỗi không sai bước nào chỉ còn khoảng một phần ba. Con người cũng sai từng bước, nhưng mình hay dừng lại, lùi một bước, hỏi lại. Khả năng tự phát hiện và tự sửa đó là thứ máy đang tập.
Mảnh thứ tư là mô hình về thế giới thật. Một người lái xe máy ở ngã tư Hàng Xanh không cần tính toán vẫn đoán được chiếc xe buýt sắp rẽ, bà bán hàng rong sắp băng qua. Hiểu biết đó đến từ nhiều năm ở trong thế giới, chịu hậu quả của mỗi lần đoán sai. Mô hình học chủ yếu từ chữ và ảnh nên hình dung của nó về vật lý, về nhân quả, còn chắp vá.
Có nhóm nghiên cứu cho rằng chỉ cần thêm dữ liệu video và mô phỏng là đủ; có nhóm cho rằng cần cơ thể robot tương tác thật. Đây là câu hỏi mở, và câu trả lời quyết định phần lớn việc AGI, nếu có, sẽ trông như thế nào.
Các mảnh còn thiếu, nói gọn
Học sau triển khai. Mô hình không tự giỏi lên từ công việc hằng ngày như người làm nghề.
Trí nhớ dài hạn có chọn lọc. Biết nhớ cái gì quan trọng, quên cái gì vụn vặt, và không nhớ nhầm.
Tự kiểm tra lại mình. Dừng lại khi thấy kết quả lạ, thay vì trôi tiếp với giả định sai.
Lập kế hoạch dài. Chia một mục tiêu lớn thành nhiều bước và giữ hướng qua nhiều ngày.
Biết mình không biết. Nói "chưa chắc" đúng lúc, thay vì trả lời trơn tru một điều bịa.
Hiểu nhân quả. Phân biệt cái đi cùng nhau với cái gây ra nhau.
Mô hình thế giới vật lý. Đoán được vật sẽ rơi, nước sẽ tràn, người sẽ phản ứng ra sao.
Học từ ít ví dụ. Một đứa trẻ thấy con mèo vài lần là nhận ra; mô hình cần nhiều hơn rất nhiều.
Thích nghi môi trường lạ. Làm được việc trong một phần mềm, một quy trình chưa từng thấy.
Phối hợp với người. Hiểu ai cần gì, khi nào nên hỏi lại, khi nào nên tự quyết.
Độ tin cậy đều tay. Làm đúng không chỉ phần lớn thời gian mà gần như mọi lúc ở việc quan trọng.
Tiết kiệm tài nguyên. Não người chạy bằng năng lượng của một bữa cơm; máy hiện nay tốn hơn rất nhiều.
Tác tử AI: đang lấp mảnh nào, để lộ rủi ro gì
Tác tử là gì. Mô hình được cho dùng công cụ, thao tác máy tính, gọi dịch vụ để tự làm việc nhiều bước.
Lấp mảnh làm việc dài. Tác tử chia nhiệm vụ, làm từng bước, kiểm kết quả và làm tiếp.
Lấp phần trí nhớ. Ghi chú, lưu tệp, tra cứu lại giúp vượt giới hạn một cuộc hội thoại.
Chưa lấp được học thật. Ghi chú không làm mô hình bên trong giỏi lên.
Lỗi có hậu quả thật. Trả lời sai chỉ là một câu sai; tác tử làm sai có thể xoá tệp, gửi nhầm email, chuyển nhầm tiền.
Khó giám sát hơn. Mỗi bước nhỏ thì hợp lý, nhưng tổng thể có thể đi lệch mà người duyệt không nhận ra.
Dễ bị đánh lừa bởi nội dung lạ. Một trang web có thể chứa chỉ dẫn ẩn khiến tác tử làm điều chủ nhân không muốn.
Quyền hạn cần hẹp. Chỉ cấp đúng quyền cho đúng việc, như giao chìa khoá một phòng chứ không giao cả chùm.
Cần điểm dừng xin phép. Hành động không đảo ngược được phải chờ người xác nhận.
Nhật ký đầy đủ. Ghi lại mọi bước để kiểm tra lại khi có sự cố.
Đây là nơi an toàn AI gặp thực tế sớm nhất. Rủi ro của trí tuệ tổng quát được thử nghiệm ở quy mô nhỏ qua tác tử hôm nay.
Sai lầm khi bàn về những mảnh còn thiếu
Coi danh sách này là vĩnh viễn. Vài mảnh có thể được lấp nhanh hơn nhiều người nghĩ.
Coi danh sách này là sắp xong. Có mảnh như học liên tục an toàn vẫn là câu hỏi nghiên cứu khó.
Đòi máy phải giống người. Máy có thể đạt năng lực tổng quát theo đường khác, không cần cảm xúc hay cơ thể y như người.
Lấy một bản demo làm bằng chứng. Một lần làm đẹp trong video khác với làm đều trong công việc thật.
Quên chi phí. Làm được nhưng tốn gấp trăm lần người thì chưa thay đổi được gì nhiều.
Bỏ qua độ tin cậy. Chính độ tin cậy quyết định ta có dám giao việc hay không.
Tách rời năng lực và an toàn. Mỗi mảnh mới thêm năng lực cũng thêm cách hỏng mới.
Nghĩ rằng chỉ cần một đột phá. Nhiều khả năng là nhiều bước nhỏ chồng lên nhau.
Dùng từ ngữ phim ảnh. Nói "máy thức tỉnh" làm mờ những câu hỏi kỹ thuật cụ thể.
Đánh đồng hiểu với trả lời được. Trả lời đúng một câu không chứng tỏ hiểu bản chất vấn đề.
Quên phần con người. Tổ chức có sẵn sàng dùng, kiểm soát, chịu trách nhiệm hay không cũng là một mảnh.
Câu hỏi thường gặp
Học liên tục trong AI là gì?
Là khả năng mô hình tiếp tục học từ dữ liệu và trải nghiệm mới sau khi đã đưa vào sử dụng, mà không quên những gì đã biết. Hiện nay phần lớn mô hình được đóng băng sau huấn luyện và chỉ cập nhật qua các đợt huấn luyện lại.
Chatbot có nhớ được mình không?
Một số sản phẩm có tính năng ghi nhớ bằng cách lưu ghi chú về người dùng rồi đưa lại vào cuộc trò chuyện sau. Đó là bộ nhớ bên ngoài do hệ thống quản lý, không phải mô hình tự học về bạn.
Mô hình thế giới là gì?
Là hình dung bên trong của một hệ thống về cách thế giới vận hành, đủ để dự đoán điều gì xảy ra tiếp theo khi có một hành động. Người có nó nhờ trải nghiệm; máy đang được thử dạy bằng video, mô phỏng và robot.
Có cần robot thì mới có AGI không?
Chưa có đồng thuận. Một số người cho rằng trí tuệ tổng quát cần tương tác với thế giới vật lý, số khác cho rằng làm được mọi việc trí óc trên máy tính đã đủ gọi là AGI. Câu trả lời phụ thuộc định nghĩa.
Mảnh nào khó nhất?
Nhiều người làm nghề cho rằng độ tin cậy và học liên tục an toàn là khó nhất, vì chúng không tự cải thiện nhanh khi tăng quy mô. Nhưng đây là nhận định, chưa phải kết luận.
