AI hẹp là hệ thống giỏi một loại việc được thiết kế sẵn, như nhận diện biển số xe hay gợi ý video. AGI, trí tuệ nhân tạo tổng quát, là một hệ thống làm được hầu hết việc trí óc mà một người trưởng thành làm được, và học được việc mới mà không cần ai dựng lại từ đầu. ASI, siêu trí tuệ nhân tạo, là nấc vượt con người ở gần như mọi việc trí óc: khoa học, chiến lược, thuyết phục, lập trình.
Điều cần nói ngay: chưa có hệ thống siêu trí tuệ nào. AGI cũng chưa có một định nghĩa được mọi người đồng ý, nên câu "đã có AGI chưa" thường được trả lời khác nhau tùy người đặt thước. Thứ đang có thật là AI hẹp và một lớp mô hình đa năng, làm được rất nhiều việc nhưng làm không đều.
Bài này đi qua ba nấc, chỉ ra chỗ ranh giới bị mờ, và giải thích vì sao người làm an toàn AI vẫn bàn về ASI dù nó chưa tồn tại.
AI hẹp: giỏi một việc, ngơ ngác ngoài việc đó
Camera ở trạm thu phí tự đọc biển số, ứng dụng ngân hàng so khuôn mặt với ảnh căn cước, phần mềm gợi ý bài hát theo thói quen nghe: đó đều là AI hẹp. Mỗi hệ thống được huấn luyện cho một nhiệm vụ, đo bằng một thước rõ ràng, và trong phạm vi đó có thể giỏi hơn người rất nhiều.
Điểm yếu của AI hẹp nằm ở rìa nhiệm vụ. Hệ thống đọc biển số không biết đọc hoá đơn tiền điện, dù cả hai đều là chữ và số in trên một mặt phẳng. Muốn nó đọc hoá đơn, người ta phải gom dữ liệu mới, huấn luyện lại, kiểm tra lại. Nó không tự chuyển kỹ năng sang việc gần giống.
Vì phạm vi hẹp nên rủi ro của AI hẹp cũng tương đối dễ khoanh vùng. Hệ thống chấm điểm tín dụng sai thì hại người vay, rất nghiêm trọng, nhưng ta biết phải kiểm tra ở đâu: dữ liệu đầu vào, ngưỡng quyết định, nhóm khách hàng bị thiệt.
Phần lớn AI đang chạy trong doanh nghiệp Việt Nam hiện nay vẫn là loại này, kể cả khi được quảng cáo bằng những chữ to tát hơn.
AGI: khi một hệ thống làm được nhiều loại việc trí óc
Cái làm AGI khác AI hẹp không phải là giỏi hơn ở một việc, mà là rộng: cùng một hệ thống đọc hợp đồng, viết mã, giải bài tập vật lý, lên kế hoạch chuyến đi, rồi học thêm một quy trình kế toán mới chỉ sau vài lần hướng dẫn. Giống một nhân viên mới vào công ty: không ai lập trình lại não họ, họ tự học việc.
Các mô hình ngôn ngữ lớn hiện nay đã làm được một phần của bức tranh đó. Chúng trả lời được câu hỏi ở hàng trăm lĩnh vực, viết được văn bản, viết được mã. Đây là lý do tranh luận "đã có AGI chưa" nóng lên: theo thước rộng, chúng đã đi được một đoạn; theo thước khắt khe, chúng còn thiếu nhiều thứ quan trọng.
Những thứ còn thiếu thường được kể ra: nhớ và học tiếp sau khi đã triển khai, làm một việc kéo dài nhiều ngày mà không lạc hướng, tự nhận ra mình sai, và độ tin cậy đều tay. Một kế toán làm đúng chín mươi lăm phần trăm số chứng từ nhưng thỉnh thoảng bịa ra một con số là không giao việc được.
Vì vậy, khi nghe ai đó tuyên bố "AGI đã tới" hoặc "AGI còn rất xa", hãy hỏi họ dùng định nghĩa nào. Hai người có thể nhìn cùng một mô hình và kết luận ngược nhau chỉ vì đặt thước khác nhau.
ASI: nấc chưa ai thấy nhưng nhiều người phải tính trước
ASI, siêu trí tuệ nhân tạo, là hệ thống vượt những người giỏi nhất ở hầu hết việc trí óc, không chỉ ở cờ hay ở tốc độ tính. Khoảng cách được hình dung không phải như học sinh giỏi so với học sinh khá, mà như một viện nghiên cứu lớn so với một người làm một mình, rồi còn hơn thế.
Mọi điều nói về ASI hiện nay đều là suy luận. Không ai quan sát được nó, nên không thể đo nó, cũng không thể khẳng định nó sẽ có hay không, có lúc nào. Người nói chắc chắn theo hướng nào cũng đang nói quá điều mình biết.
Vậy vì sao người làm an toàn AI vẫn bàn về nó? Lý do giống chuyện thiết kế đê: kỹ sư không biết chắc năm nào lũ lớn, nhưng phải tính đê cho trận lũ có thể tới, vì lúc nước lên mới đắp thì không kịp. Nếu một ngày có hệ thống giỏi hơn người ở việc lập kế hoạch và thuyết phục, các cách kiểm soát dựa trên việc con người hiểu và kiểm tra được nó sẽ yếu đi.
Cũng có những người nghiên cứu nghiêm túc cho rằng lo về ASI làm phân tán sự chú ý khỏi những tác hại đang xảy ra từ AI hiện nay. Hai mối quan tâm này không loại trừ nhau, và một trang về an toàn AI nên giữ được cả hai.
Ba nấc đặt cạnh nhau: bảng so sánh bằng lời
Phạm vi việc. AI hẹp làm một nhiệm vụ; AGI làm hầu hết việc trí óc; ASI làm hầu hết việc đó tốt hơn người giỏi nhất.
Cách học việc mới. AI hẹp cần huấn luyện lại; AGI học từ vài ví dụ hoặc lời dặn; ASI được hình dung là học nhanh hơn người.
Trạng thái hiện nay. AI hẹp có khắp nơi; hệ thống đa năng đã có nhưng chưa đều; ASI chưa có.
Cách đo. AI hẹp đo bằng độ chính xác trên một bộ dữ liệu; AGI và ASI chưa có thước đo được đồng thuận.
Ví dụ đời thường. Máy đọc biển số; một trợ lý làm được việc của nhân viên văn phòng mới; chưa có ví dụ cho ASI.
Kiểu rủi ro chính. AI hẹp sai trong phạm vi hẹp; AGI sai trên diện rộng vì dùng ở nhiều nơi; ASI khó kiểm soát vì giỏi hơn người kiểm tra.
Ai giám sát được. AI hẹp do kỹ sư và người dùng kiểm tra; AGI cần cả hệ thống kiểm định; ASI đặt ra câu hỏi người giám sát có đủ sức không.
Mức tranh cãi. Ít tranh cãi về AI hẹp; rất nhiều tranh cãi về định nghĩa AGI; ASI tranh cãi cả việc có xảy ra không.
Chữ hay bị dùng sai. Gọi mọi phần mềm tự động là AI; gọi một chatbot giỏi là AGI; dùng ASI như từ đồng nghĩa với phim viễn tưởng.
Ranh giới. Không có vạch kẻ sẵn giữa các nấc; năng lực tăng dần và không đều, nên mỗi người đặt mốc một kiểu.
Điều chắc chắn nhất. Hệ thống hiện nay đã đủ mạnh để gây hại thật nếu dùng ẩu, bất kể ta gọi chúng bằng tên gì.
Những hiểu lầm hay gặp khi bàn về các nấc trí tuệ máy
"Nói chuyện trôi chảy là thông minh toàn diện." Nói trôi chảy chỉ là một năng lực; mô hình có thể diễn đạt hay mà vẫn sai phép tính đơn giản.
"AGI sẽ tới vào một ngày cụ thể." Năng lực tăng dần theo từng mảng, nên rất có thể không có một ngày nào mà ai cũng đồng ý là ngày đó.
"ASI nghĩa là máy có ý thức." Siêu trí tuệ nói về năng lực giải quyết việc; có ý thức hay không là câu hỏi khác, chưa ai trả lời được.
"AI hẹp thì vô hại." Một hệ thống chấm điểm hồ sơ sai lệch có thể gạt bỏ hàng nghìn người mà không ai để ý.
"Mô hình lớn hơn là gần AGI hơn." Kích thước giúp nhiều việc, nhưng còn những năng lực không tự xuất hiện chỉ vì to lên.
"Đạt điểm cao bài thi của người là đã ngang người." Bài thi đo một lát cắt nhỏ của năng lực, và mô hình có thể đã gặp đề tương tự lúc huấn luyện.
"Siêu trí tuệ sẽ giống trong phim." Phim cần nhân vật có cảm xúc và ý đồ rõ ràng; rủi ro thực tế được bàn là mục tiêu lệch và mất khả năng kiểm tra.
"Chỉ người lập trình mới cần hiểu chuyện này." Người làm sản phẩm, giáo viên, người quản lý đều quyết định giao việc gì cho máy.
"Nói về ASI là gieo hoảng sợ." Bàn kỹ một rủi ro có thể xảy ra khác với khẳng định nó chắc chắn xảy ra.
"Không lo ASI thì không cần an toàn AI." Phần lớn công việc an toàn AI hôm nay là làm cho hệ thống hiện tại bớt sai, bớt bị lạm dụng.
"Thuật ngữ nào cũng như nhau." Dùng lẫn AI, AGI, ASI khiến hai người tranh cãi mà thật ra đang nói về hai thứ khác nhau.
Câu hỏi thường gặp
ASI viết tắt của gì?
ASI là Artificial Superintelligence, tiếng Việt gọi là siêu trí tuệ nhân tạo: một hệ thống máy vượt con người ở hầu hết việc trí óc. Đây là khái niệm dùng để bàn rủi ro và chuẩn bị, chưa có hệ thống nào như vậy.
Chatbot hiện nay có phải AGI không?
Tùy định nghĩa. Chúng làm được nhiều loại việc nên có nét tổng quát, nhưng vẫn thiếu trí nhớ lâu dài, độ tin cậy đều và khả năng tự làm việc dài hơi, nên phần đông người làm nghề chưa gọi chúng là AGI.
Có phải đi qua AGI rồi mới tới ASI?
Đó là cách hình dung phổ biến nhất, nhưng không bắt buộc. Một hệ thống có thể vượt người ở vài mảng trong khi vẫn kém người ở mảng khác, nên các nấc trên thực tế chồng lên nhau chứ không nối đuôi gọn gàng.
Bao giờ có siêu trí tuệ?
Không ai biết. Các dự đoán trải rất rộng, từ sớm tới rất muộn hoặc không bao giờ, và chưa có cách kiểm chứng. Trang này không đưa mốc năm nào và khuyên bạn thận trọng với ai đưa mốc chắc nịch.
Người không làm kỹ thuật có cần phân biệt ba nấc này?
Có, vì nó giúp đặt câu hỏi đúng. Với AI hẹp, bạn hỏi nó sai với ai; với hệ thống đa năng, bạn hỏi giao cho nó việc gì và ai kiểm tra; với ASI, bạn đang đọc một cuộc thảo luận về tương lai chứ không phải tin tức.
