Bùng nổ trí tuệ là giả thuyết cho rằng đến một lúc, AI giỏi tới mức tự làm được công việc nghiên cứu và cải tiến AI. Bản cải tiến lại giỏi hơn trong việc cải tiến, nên vòng sau nhanh hơn vòng trước, và năng lực có thể vọt từ mức con người lên mức siêu trí tuệ trong thời gian ngắn hơn nhiều so với tiến trình trước đó. Người trong nghề gọi vòng lặp này là tự cải thiện đệ quy.
Lập luận này có lý ở từng bước, nhưng mỗi bước dựa trên một giả định chưa ai kiểm chứng được. Đây chưa phải chuyện đã xảy ra; nó là một kịch bản mà nhiều người coi là đủ khả năng để phải chuẩn bị, và nhiều người khác cho là bị thổi phồng. Bài này trình bày cả hai phía.
Vòng lặp được hình dung ra sao
Hãy nghĩ tới một xưởng cơ khí tự chế máy tiện. Chiếc máy tiện đầu tiên làm bằng tay, thô. Dùng nó tiện ra chi tiết cho chiếc máy thứ hai chính xác hơn. Máy thứ hai tiện ra máy thứ ba còn chính xác hơn nữa. Công cụ tốt hơn làm ra công cụ tốt hơn, và tốc độ cải tiến tăng dần.
Với AI, vòng lặp được hình dung tương tự nhưng ở tầng trí óc. Hiện nay người làm nghề đã dùng mô hình để viết mã, đọc tài liệu, sinh dữ liệu huấn luyện và chấm kết quả. Nếu đến lúc mô hình làm được phần lớn công việc của một nhóm nghiên cứu AI, thì có thể chạy hàng nghìn bản sao song song, làm việc ngày đêm, không nghỉ Tết.
Lúc đó, cái giới hạn tốc độ tiến bộ không còn là số người làm nghiên cứu nữa. Nếu mỗi đợt cải tiến lại làm mô hình nghiên cứu giỏi hơn, ta có một vòng phản hồi dương, giống lãi mẹ đẻ lãi con. Đó là phần "bùng nổ" trong cái tên.
Người coi kịch bản này nghiêm túc không cần tin nó chắc chắn xảy ra. Họ chỉ cần thấy nó có khả năng, và thấy rằng nếu xảy ra thì thời gian để con người phản ứng sẽ rất ngắn, nên các biện pháp an toàn phải sẵn sàng từ trước.
Những nút thắt có thể làm vòng lặp chậm lại
Nút thắt thứ nhất là sức tính toán. Huấn luyện một mô hình lớn cần rất nhiều chip và điện. Một mô hình nghĩ ra ý tưởng hay hơn vẫn phải chờ chạy thí nghiệm, và chip không tự đẻ ra chỉ vì phần mềm thông minh hơn. Nhà máy làm chip, đường dây điện, nước làm mát đều đi theo nhịp của thế giới vật chất.
Nút thắt thứ hai là thí nghiệm và dữ liệu. Nhiều tiến bộ trong AI đến từ thử và sai: thử một cách huấn luyện, đo, sửa. Nếu mỗi lần thử tốn vài tuần chạy máy, thì có nhiều nhà nghiên cứu ảo hơn cũng không rút ngắn được bao nhiêu, giống thêm người vào bếp không làm nồi nước dùng sôi nhanh hơn.
Nút thắt thứ ba là lợi suất giảm dần. Ở nhiều lĩnh vực khoa học, những cải tiến dễ được làm trước, càng về sau càng khó. Có thể mỗi vòng tự cải thiện cho ra mức tăng nhỏ hơn vòng trước, và vòng lặp tự tắt dần thay vì tăng tốc.
Nút thắt thứ tư là con người và tổ chức. Công ty, nhà quản lý, xã hội có thể chủ động làm chậm, yêu cầu kiểm định trước mỗi bước. Phía lo ngại đáp lại rằng áp lực cạnh tranh làm việc tự kiềm chế khó giữ. Cả hai lập luận đều có trọng lượng, và chưa có dữ liệu nào phân xử dứt khoát.
Lý lẽ của phía cho rằng kịch bản đáng lo
Máy sao chép được. Một người giỏi phải mất hàng chục năm đào tạo; một mô hình giỏi chạy thêm bản sao trong vài phút.
Máy không mệt. Làm liên tục, không nghỉ, không quên việc hôm qua nếu được thiết kế để nhớ.
Tốc độ nghĩ nhanh hơn. Đọc và viết nhanh hơn người nhiều lần, nên một tuần làm việc của máy có thể bằng nhiều tháng của người.
AI đã góp vào làm AI. Mô hình đang được dùng để viết mã, sinh dữ liệu, chấm điểm cho chính quy trình huấn luyện.
Cải tiến thuật toán không cần thêm chip. Có những đợt tiến bộ chỉ đến từ cách làm khéo hơn trên phần cứng cũ.
Lịch sử có những bước nhảy. Năng lực mô hình từng tăng đột ngột ở vài kỹ năng khi đổi thế hệ.
Thời gian phản ứng ngắn. Nếu vòng lặp nhanh, các quy trình kiểm tra của người sẽ không theo kịp.
Rủi ro bất đối xứng. Chuẩn bị thừa thì tốn chút công; không chuẩn bị mà xảy ra thì hậu quả khó sửa.
Khó dừng giữa chừng. Ai dừng trước có thể bị đối thủ vượt, nên ai cũng có lý do chạy tiếp.
Căn chỉnh có thể trôi qua mỗi vòng. Mỗi lần mô hình tự sửa mình là một lần mục tiêu ban đầu có thể lệch đi một chút.
Người kiểm tra tụt lại. Khi mô hình giỏi hơn người ở việc làm AI, người khó đánh giá thay đổi nào là an toàn.
Lý lẽ của phía cho rằng kịch bản bị thổi phồng
Trí tuệ không phải một núm vặn. Giỏi hơn ở việc này không tự động giỏi hơn ở mọi việc, nên vòng lặp có thể không lan rộng.
Thế giới vật chất đặt giới hạn. Chip, điện, nhà máy, thí nghiệm sinh học đều cần thời gian thật.
Lợi suất giảm dần. Càng về sau, mỗi cải tiến càng tốn công hơn.
Dữ liệu chất lượng có hạn. Văn bản tốt của con người không vô tận, dữ liệu do máy sinh ra có thể kém dần.
Tiến bộ quá khứ vốn liên tục. Phần lớn đường cong năng lực tới nay tăng đều theo đầu tư, không vọt.
Nghiên cứu cần phán đoán. Chọn hướng đi đáng thử là thứ khó tự động hoá nhất.
Tổ chức có quán tính. Triển khai một mô hình mới vào thực tế cần thời gian, kiểm tra, ngân sách.
Giả định được chồng lên nhau. Mỗi bước có vẻ hợp lý nhưng xác suất cả chuỗi cùng đúng có thể thấp.
Có thể quan sát được dấu hiệu sớm. Nếu cất cánh chậm, xã hội có thời gian thấy và điều chỉnh.
Từ ngữ gây ấn tượng mạnh. Chữ "bùng nổ" gợi hình ảnh nhanh hơn những gì lập luận thật sự chứng minh.
Lo quá có giá. Dồn hết sự chú ý vào kịch bản xa có thể làm lơ những tác hại đang xảy ra.
Việc nên làm bất kể kịch bản nào đúng
Đo xem AI làm được bao nhiêu phần việc nghiên cứu. Đây là dấu hiệu sớm trực tiếp nhất cho vòng lặp tự cải thiện.
Ghi lại tốc độ tiến bộ. Có số liệu đều đặn mới phân biệt được tăng đều với tăng vọt.
Kiểm định trước mỗi bước lớn. Mô hình mới được thử kỹ trước khi dùng nó để làm ra mô hình tiếp theo.
Giữ người trong các quyết định then chốt. Chọn hướng nghiên cứu và quyết định phát hành không giao trọn cho máy.
Đầu tư vào căn chỉnh song song với năng lực. Nếu chỉ một bên chạy nhanh, khoảng cách giữa hai bên sẽ nới rộng.
Làm cho mô hình dễ soi hơn. Hiểu được bên trong mô hình thì dễ phát hiện mục tiêu bị trôi qua từng vòng.
Chia sẻ dấu hiệu cảnh báo. Các nhóm phát triển nên có kênh báo cho nhau khi thấy năng lực đáng lo.
Chuẩn bị phương án tạm dừng. Quy trình dừng được viết sẵn từ lúc bình thường, không đợi lúc căng thẳng mới nghĩ.
Nuôi đội ngũ hiểu việc ở mỗi nước. Kể cả nước không làm mô hình lớn cũng cần người đọc được tình hình và đánh giá hệ thống nhập về.
Tránh hai cực khi truyền thông. Không doạ tận thế, không bảo chẳng có gì; nói rõ đâu là giả định.
Sửa tác hại hiện tại. Lừa đảo, thông tin sai, thiên lệch đang có thật; xử lý chúng cũng rèn được năng lực cho rủi ro lớn hơn.
Câu hỏi thường gặp
Tự cải thiện đệ quy là gì?
Là vòng lặp trong đó một hệ thống AI cải tiến chính nó hoặc thế hệ sau của nó, và bản cải tiến lại giỏi hơn trong việc cải tiến. Đây là cơ chế mà giả thuyết bùng nổ trí tuệ dựa vào.
AI hiện nay đã tự nâng cấp chính nó chưa?
Chưa theo nghĩa tự làm trọn vòng nghiên cứu. Mô hình đã được dùng để hỗ trợ từng phần như viết mã, sinh dữ liệu, đánh giá kết quả, nhưng con người vẫn đặt hướng đi và quyết định.
Cất cánh nhanh và cất cánh chậm khác nhau thế nào?
Cất cánh nhanh là năng lực vọt từ mức người lên mức siêu trí tuệ trong thời gian rất ngắn. Cất cánh chậm là quá trình kéo dài đủ để xã hội quan sát, thử nghiệm và điều chỉnh. Hai kịch bản đòi hỏi cách chuẩn bị khác nhau.
Nếu bùng nổ trí tuệ không chắc xảy ra, sao phải bàn?
Vì hậu quả nếu xảy ra rất lớn và thời gian phản ứng ngắn. Cách nghĩ giống mua bảo hiểm: không cần chắc nhà sẽ cháy mới mua, chỉ cần thấy khả năng đó đủ đáng kể.
Có cách nào biết vòng lặp đang bắt đầu?
Các nhà nghiên cứu đề xuất theo dõi xem AI tự làm được bao nhiêu phần công việc nghiên cứu AI và tốc độ tiến bộ có tăng bất thường không. Những thước đo này còn mới và đang được hoàn thiện.
