Những người hiểu AI sâu nhất lại bất đồng gay gắt nhất về việc nó nguy hiểm tới đâu. Lý do chính không phải vì một bên ngây thơ hay một bên hoảng loạn, mà vì họ đặt cược khác nhau vào vài câu hỏi chưa ai có đáp án: năng lực máy sẽ tăng nhanh tới mức nào, làm cho máy đúng ý người khó tới đâu, và con người có kịp sửa sai từng bước hay không.
Về những gì đã xảy ra, như mô hình bịa thông tin, lừa đảo bằng giọng giả, mô hình lách bài kiểm tra trong thí nghiệm, các chuyên gia ít khi cãi nhau. Họ cãi nhau về điều sẽ xảy ra. Hiểu chỗ họ khác nhau giúp bạn đọc tranh luận mà không bị cuốn theo bên nào nói to hơn.
Các câu hỏi nằm ở gốc bất đồng
Năng lực tăng nhanh hay chậm. Có người tin việc tăng quy mô dữ liệu và tính toán sẽ tiếp tục đem lại năng lực mới, có người tin sẽ sớm chạm trần và cần đột phá khác.
Có bước nhảy đột ngột không. Một số người lo năng lực có thể tăng vọt khi AI bắt đầu giúp nghiên cứu AI; số khác cho rằng tiến bộ sẽ đều đặn và dễ theo dõi.
Căn chỉnh khó hay dễ. Có người thấy các phương pháp hiện nay đang làm mô hình cư xử tốt hơn rõ rệt; có người cho rằng chúng chỉ sửa bề ngoài.
Mô hình có mục tiêu thật không. Mô hình ngôn ngữ giống một tác nhân theo đuổi mục tiêu, hay giống một bộ mô phỏng văn bản; câu trả lời ảnh hưởng lớn tới mức lo ngại.
Sửa sai dần có kịp không. Nếu lỗi lộ ra từ từ, con người học được; nếu một số lỗi đủ lớn ngay lần đầu, không có cơ hội học.
Trí tuệ đổi thành quyền lực dễ tới đâu. Thông minh hơn có tự động dẫn tới kiểm soát được thế giới thật không, hay bị giới hạn bởi hạ tầng, luật pháp, vật lý.
Các bên có phối hợp được không. Cạnh tranh giữa các tổ chức và giữa các nước có buộc mọi người chạy nhanh hơn mức an toàn không.
Bằng chứng nào đáng tin. Thí nghiệm dựng sẵn có nói lên điều gì về hệ thống thật hay không.
So sánh với công nghệ nào. Người ví AI với điện hay internet thường lạc quan hơn người ví với vũ khí hạt nhân hay đại dịch.
Trí tuệ là gì. Một số bất đồng thực chất là bất đồng về định nghĩa: có người coi trí tuệ là một năng lực chung, có người coi nó là tập hợp nhiều kỹ năng riêng lẻ.
Cân nặng giữa lợi ích và rủi ro. Cùng một mức rủi ro, người coi trọng lợi ích y tế, khoa học sẽ chấp nhận đi nhanh hơn người coi trọng sự an toàn tuyệt đối.
Không ai có dữ liệu cho điều chưa xảy ra
Dự báo thời tiết ở Quy Nhơn hay Đà Nẵng mùa bão đáng tin vì có hàng chục năm số liệu về hàng trăm cơn bão, có mô hình vật lý đã được kiểm chứng. Dự báo về AI mạnh hơn nhiều thì không có cơn bão nào trước đó để học. Mỗi chuyên gia phải ngoại suy từ những gì đang thấy, và cách ngoại suy phụ thuộc vào trực giác của họ về những câu hỏi gốc ở trên.
Vì vậy khi hai người cùng giỏi nhìn cùng một kết quả thí nghiệm, họ có thể rút ra hai kết luận ngược nhau. Một mô hình lách bài kiểm tra trong phòng thí nghiệm: người này thấy mầm mống của lệch mục tiêu nguy hiểm, người kia thấy một lỗi kỹ thuật bình thường đã được phát hiện và sửa. Cả hai đều đúng về dữ kiện; họ khác nhau ở chỗ dữ kiện đó nói gì về tương lai.
Điều này cũng giải thích vì sao những con số xác suất được đưa ra về rủi ro AI dao động rất rộng giữa các chuyên gia. Những con số đó không đến từ thống kê mà đến từ ước lượng chủ quan. Chúng có ích để biết người nói đang lo tới mức nào, nhưng không nên đọc như số liệu đo được.
Một chuyên gia trung thực vì thế thường nói kèm mức độ không chắc của mình. Khi bạn gặp ai nói về tương lai AI với sự chắc chắn tuyệt đối, theo hướng nào cũng vậy, đó là dấu hiệu nên đọc kỹ hơn chứ không phải tin nhiều hơn.
Động cơ và vị trí cũng ảnh hưởng
Ngoài những câu hỏi kỹ thuật, vị trí của mỗi người cũng ảnh hưởng tới cách họ nhìn. Người làm sản phẩm hằng ngày thấy rõ mô hình vụng về ở nhiều chỗ, nên khó tin chuyện nó sắp vượt người. Người làm nghiên cứu năng lực thấy mô hình tiến bộ nhanh qua từng thế hệ, nên dễ tin đà đó còn tiếp tục. Người làm bảo mật quen nghĩ tới trường hợp xấu nhất, vì đó là nghề của họ.
Động cơ kinh tế cũng có thật, và chạy theo cả hai chiều. Bên phát triển AI có thể muốn giảm nhẹ rủi ro để không bị quản lý chặt; cũng có lập luận rằng nói nhiều về rủi ro lớn khiến công nghệ của mình nghe mạnh hơn. Người làm nghiên cứu an toàn có thể bị nghi là phóng đại để có thêm kinh phí. Không thể kết luận gì chỉ từ động cơ, nhưng biết động cơ giúp đọc lời nói cẩn thận hơn.
Có một ảnh hưởng tinh tế nữa là nghề nghiệp đào tạo trực giác khác nhau. Người học thống kê và học máy truyền thống quen với mô hình chỉ khớp dữ liệu; người học lý thuyết ra quyết định quen nghĩ về tác nhân tối ưu mục tiêu. Họ nhìn cùng một hệ thống qua hai lăng kính và thấy hai thứ khác nhau.
Điều đáng ghi nhận là trong vài năm gần đây, khoảng cách giữa các phía có lúc thu hẹp ở những điểm cụ thể: nhiều người hoài nghi về kịch bản thảm hoạ vẫn ủng hộ việc kiểm định trước khi phát hành, và nhiều người lo ngại vẫn đồng ý rằng các rủi ro trước mắt cần xử lý ngay.
Đọc một cuộc tranh luận về rủi ro AI cho tỉnh
Xác định họ đang nói về rủi ro nào. Hai người có thể cãi nhau mãi vì một người nói về lừa đảo hôm nay, người kia nói về siêu trí tuệ.
Tìm câu hỏi gốc họ khác nhau. Thường là tốc độ tiến bộ, độ khó căn chỉnh, hoặc khả năng sửa sai dần.
Phân biệt dữ kiện và dự đoán. Câu "mô hình đã làm X trong thí nghiệm" khác câu "mô hình sẽ làm X ngoài đời".
Chú ý mức độ chắc chắn. Người nói "theo ước lượng của mình", "có thể", "chưa rõ" thường đáng tin hơn người chỉ dùng câu khẳng định.
Xem họ có trình bày được lý lẽ phía kia không. Ai tóm tắt công bằng được quan điểm đối lập thì thường đã suy nghĩ kỹ.
Coi chừng ngụy biện về người. Bác bỏ một lập luận vì người nói làm ở đâu không trả lời được lập luận đó.
Coi chừng lời kêu gọi uy tín. Một người nổi tiếng trong ngành vẫn có thể sai ở những câu hỏi ngoài chuyên môn hẹp của họ.
Xem họ đề xuất làm gì. Đề xuất cụ thể, kiểm tra được thường có giá trị hơn lời cảnh báo chung chung hay lời trấn an chung chung.
Đừng chọn phe quá sớm. Có thể đồng ý với phía này ở câu hỏi này và phía kia ở câu hỏi khác.
Ghi lại dự đoán. Theo dõi ai đã dự đoán đúng điều gì trong quá khứ là cách tốt để cân nhắc lời họ nói về tương lai.
Cập nhật khi có bằng chứng mới. Thay đổi quan điểm khi thấy bằng chứng là dấu hiệu tư duy tốt, không phải yếu.
Sinh viên và kỹ sư Việt Nam nên đứng ở đâu
Hiểu cơ chế trước khi có quan điểm. Đọc về căn chỉnh, đánh giá, diễn giải đủ để tự đánh giá lý lẽ của hai phía.
Tự làm thí nghiệm nhỏ. Thử mô hình mở trên máy của mình, xem nó lách tiêu chí hay chiều lòng người dùng thế nào. Trải nghiệm trực tiếp giúp hiểu hơn đọc tranh luận.
Đọc tài liệu gốc. Bài nghiên cứu và báo cáo kỹ thuật thường thận trọng hơn bản tin viết lại.
Theo dõi cả hai phía. Chọn vài nguồn lo ngại và vài nguồn hoài nghi có lập luận chặt chẽ.
Đóng góp từ góc tiếng Việt. Kiểm định mô hình trên tiếng Việt, văn hoá Việt là mảng ít người làm mà rất cần.
Đừng chờ tranh luận ngã ngũ. Nhiều việc an toàn có ích dù rủi ro dài hạn lớn hay nhỏ, có thể làm ngay.
Giữ tư duy phản biện với cả hai phía. Lời cảnh báo và lời trấn an đều cần bằng chứng.
Thảo luận trong nhóm học. Mỗi người bảo vệ một phía rồi đổi vai là cách luyện hiểu lý lẽ đối lập.
Nhận ra giới hạn của mình. Có những câu hỏi mà cả người giỏi nhất cũng chưa trả lời được, và nói "chưa biết" là được.
Tránh truyền tin giật gân. Chia sẻ một bài cảnh báo tận thế hay một bài chế giễu lo ngại đều làm tranh luận nghèo đi.
Coi đây là nghề. Đánh giá, kiểm định, giám sát AI là công việc có thật và cần nhiều người, không chỉ là chủ đề để bàn.
Câu hỏi thường gặp
Vì sao các chuyên gia đưa ra xác suất rủi ro AI khác nhau nhiều vậy?
Vì không có dữ liệu thống kê cho sự kiện chưa từng xảy ra. Mỗi con số là ước lượng chủ quan dựa trên giả định của từng người về tốc độ tiến bộ, độ khó căn chỉnh và khả năng sửa sai.
Có phải người làm AI thì lạc quan, người ngoài thì bi quan?
Không đơn giản như vậy. Trong chính những người phát triển AI có cả người rất lo và người không lo. Vị trí và kinh nghiệm ảnh hưởng tới cách nhìn, nhưng không quyết định hoàn toàn.
Khi nào thì có trí tuệ tổng quát?
Không ai biết. Các dự đoán khác nhau rất xa, và định nghĩa trí tuệ tổng quát cũng chưa thống nhất. Một dự đoán có ngày tháng cụ thể nên được đọc như ý kiến cá nhân, không phải kết luận khoa học.
Người không làm kỹ thuật nên tin ai?
Thay vì chọn tin một người, hãy xem lý lẽ của họ có tách được dữ kiện với dự đoán không, có nói mức độ không chắc không, và có trình bày công bằng phía bên kia không. Những dấu hiệu đó đáng tin hơn danh tiếng.
Bất đồng nhiều vậy thì có nên làm gì không?
Có. Nhiều biện pháp có ích dù rủi ro dài hạn lớn hay nhỏ, như kiểm định mô hình trước khi dùng, giới hạn quyền của hệ thống, giám sát khi chạy và nghiên cứu nhìn vào bên trong mô hình.
