Năm 2016, Geoffrey Hinton ngồi trên sân khấu một hội nghị ở Toronto và nói một câu khiến hàng ngàn sinh viên y khoa toàn cầu hoảng hốt: “Mọi người nên ngừng đào tạo bác sĩ chẩn đoán hình ảnh ngay bây giờ. Trong vòng năm đến mười năm nữa, deep learning sẽ làm tốt hơn bác sĩ.” Hinton không phải người bình thường. Ông là “cha đỡ đầu” của deep learning, người đặt nền móng cho gần như mọi thứ từ ChatGPT đến xe tự lái. Khi ông nói, mọi người nghe.
Mười năm sau, nhu cầu bác sĩ chẩn đoán hình ảnh vẫn tăng. Ngành này đang thiếu người trầm trọng trên toàn cầu. AI thực sự đã giỏi hơn con người trong nhiều tác vụ nhận dạng hình ảnh, y hệt như Hinton dự đoán. Nhưng bệnh viện vẫn cần bác sĩ, vì công việc chẩn đoán hình ảnh hóa ra không chỉ là “nhìn ảnh rồi phán”, mà còn là tích hợp bệnh sử, giao tiếp với đồng nghiệp, đưa ra phán đoán lâm sàng trong bối cảnh bất định, và hàng tá thứ khác mà Hinton không nghĩ tới.
Ông đúng về AI. Ông sai về bác sĩ. Và cái sai này không phải lỗi cá nhân.
Hiểu AI nhất, sai nhất
Triết gia Dan Williams (giảng viên Đại học Sussex, tiến sĩ triết học Cambridge) gọi đây là “Vấn đề Hinton”: khi một chuyên gia đỉnh cao trong lĩnh vực AI đưa ra dự đoán về tác động của AI lên một lĩnh vực khác, nhưng hiểu biết của ông về lĩnh vực đó chỉ ở mức “mô hình dân gian”, nghĩa là nông, đại khái, và đầy lỗ hổng. Hinton hiểu neural network cực kỳ sâu. Nhưng ông hiểu kinh tế học lao động, cấu trúc tổ chức bệnh viện, và tâm lý bệnh nhân ở mức một người đọc báo vào buổi sáng.
Câu chuyện Hinton không phải ngoại lệ. Nó là mẫu hình lặp lại trong mọi cuộc tranh luận về AI: kỹ sư AI dự đoán xã hội sẽ thay đổi thế nào, nhưng hiểu xã hội bằng trực giác chứ không bằng kiến thức có hệ thống. Williams chỉ ra rằng hầu hết các câu hỏi quan trọng nhất mà cuộc cách mạng AI đặt ra, từ tác động lên thị trường lao động, đến cách AI thay đổi quyền lực chính trị, đến câu hỏi AI có nên được trao quyền quyết định pháp lý hay không, tất cả đều yêu cầu chuyên môn về kinh tế, xã hội học, tâm lý học, triết học. Hiểu kiến trúc transformer không giúp bạn trả lời bất kỳ câu nào trong số đó.
Williams so sánh với cuộc Cách mạng Công nghiệp: David Ricardo, Karl Marx, Max Weber đều không cần hiểu cơ chế hoạt động của máy hơi nước để viết những phân tích sâu sắc nhất về cách cuộc cách mạng đó thay đổi xã hội. Kiến thức kỹ thuật cần thiết nhưng không đủ, và trong nhiều trường hợp, không cần thiết.
Nói tới đây, mình nghĩ đến cái bẫy rất phổ biến trong các phòng họp: thuê một “AI expert” về để tư vấn chuyển đổi số cho tổ chức, rồi ngạc nhiên khi mọi khuyến nghị đều xoay quanh model và pipeline, không hề chạm tới cái quy trình thực tế mà nhân viên đang dùng. Ngáo như mình cũng từng rơi vào bẫy này, tưởng hiểu công nghệ là hiểu vấn đề.
Niềm tin ngầm sau dự báo
Nhưng Williams không dừng ở đó. Ông đi xa hơn, vào một vùng mà mình thấy thực sự thú vị: ngay cả những câu hỏi tưởng như hoàn toàn kỹ thuật về AI, ví dụ “AI có thể đạt trí tuệ siêu việt không?”, “AI có ý thức không?”, “AI có nguy hiểm cho nhân loại không?”, tất cả đều là câu hỏi triết học cải trang thành câu hỏi kỹ thuật.
Lấy ví dụ cuộc tranh luận về “ngày tận thế AI” (AI doom). Williams nhận ra một quy luật lạ lùng: người ta đứng ở đâu trong cuộc tranh luận về sức mạnh lý trí thuần túy (pure reasoning) thì cũng đứng ở đó trong cuộc tranh luận về sức mạnh AI. Eliezer Yudkowsky, nhà tư tưởng AI safety nổi tiếng nhất, tin rằng lý trí thuần túy cực kỳ mạnh, rằng từ nguyên lý đầu tiên bạn có thể suy ra được gần như mọi thứ. Logic của ông: nếu lý trí thuần túy mạnh đến vậy ở con người, thì một hệ thống AI có năng lực lý trí siêu việt sẽ gần như toàn năng. Kết luận: lo sợ.
Ngược lại, những người theo trường phái thực nghiệm, những người nghi ngờ rằng ngồi một chỗ suy luận có thể cho ra tri thức đáng kể về thế giới thực, cũng nghi ngờ rằng AI chỉ dựa vào “sự thông minh thuần túy” mà có thể thống trị. Cùng dữ liệu. Khác kết luận. Vì khác niềm tin gốc về nhận thức luận.
Williams gọi đây là “đệ quy nhận thức luận” (epistemic recursion): niềm tin của bạn về sức mạnh lý trí con người quyết định niềm tin của bạn về sức mạnh AI, và ngược lại. Đây có lẽ là nhận định sắc nhất trong toàn bộ bài viết của ông, vì nó giải thích tại sao cuộc tranh luận AI doom cứ quay vòng mãi mà không ai thuyết phục được ai: hai bên đang tranh luận về AI, nhưng thực ra đang tranh luận về bản chất của lý trí.
Tuy nhiên, có một câu hỏi mà Williams không tự đặt cho mình: nếu phe thực nghiệm đúng, rằng lý trí thuần túy có giới hạn trong việc dự đoán thế giới thực, thì chính bài viết của Williams, một bài tiểu luận triết học ngồi suy luận từ ghế bành về tương lai AI, cũng bị giới hạn đó chi phối. Ông đang dùng lý trí thuần túy để lập luận rằng lý trí thuần túy đang trở nên giá trị hơn bao giờ hết. Có gì đó vòng vo ở đây, và chính sự vòng vo đó mới là thứ đáng suy nghĩ: có thể bản thân hành động “ngồi phân tích cấu trúc tri thức” cũng là một minh chứng cho luận điểm của ông, rằng trong thời kỳ không ai biết gì, người biết cách đặt câu hỏi đúng có giá trị hơn người có câu trả lời sai.
Cái hộp đang nứt
Đến đây mới là phần Williams đào sâu nhất, và cũng là phần khiến mình ngồi lại lâu nhất.
Năm 1962, nhà khoa học Herbert Simon (Nobel Kinh tế, giải Turing, tiên phong trong tâm lý học nhận thức, một trong những bộ óc đa ngành cuối cùng của thế kỷ 20) viết một bài báo tên “Kiến trúc của sự phức tạp”. Trong đó, ông đưa ra khái niệm “tính phân tách gần đúng” (near-decomposability): các hệ thống phức tạp trở nên có thể hiểu được khi chúng có thể chia thành các hệ thống con, trong đó các tương tác bên trong mỗi hệ thống con thì mạnh, còn các tương tác giữa các hệ thống con với nhau thì yếu.
Nghe hàn lâm, nhưng nó giải thích một điều rất cụ thể: tại sao khoa học hiện đại hoạt động được. Nhà kinh tế nghiên cứu kinh tế, nhà tâm lý nghiên cứu tâm lý, nhà xã hội học nghiên cứu xã hội, và tất cả đều giả định rằng các lĩnh vực khác là “nền tĩnh”, nghĩa là không thay đổi đủ nhanh để làm hỏng mô hình của mình. Nhà kinh tế học coi thể chế chính trị là ổn định khi phân tích thị trường lao động. Nhà tâm lý coi cấu trúc gia đình là ổn định khi nghiên cứu phát triển trẻ em. Mỗi người ở trong hộp của mình, và hệ thống hoạt động vì các hộp gần như độc lập.
AI đã/sẽ phá vỡ giả định đó.
Khi AI đồng thời thay đổi kinh tế (tự động hóa lao động), chính trị (thông tin sai lệch, giám sát), văn hóa (nội dung do AI tạo), giáo dục (sinh viên dùng ChatGPT viết luận), y tế (chẩn đoán tự động), luật pháp (ai chịu trách nhiệm khi AI sai?), thì cái giả định “nền tĩnh” sụp đổ. Nhà kinh tế không thể giả định thể chế ổn định nữa vì AI đang thay đổi cả thể chế. Nhà tâm lý không thể giả định cấu trúc gia đình ổn định nữa vì AI đang thay đổi cách con người giao tiếp và quan hệ.
Tất cả các hộp đang nứt cùng lúc. Và không chuyên gia nào đứng trong một hộp có thể nhìn thấy toàn cảnh.
Rồi, nhưng Williams có lạc quan quá không? Câu hỏi mà mình bám riết lấy là: chuyện này đã xảy ra rồi. Cách mạng Công nghiệp cũng phá vỡ tính phân tách gần đúng, cũng thay đổi đồng thời thể chế chính trị, cấu trúc giai cấp, tâm lý, tôn giáo, nghệ thuật. Và kết quả không phải sụp đổ tri thức vĩnh viễn, mà là sự ra đời của các ngành mới: kinh tế học, xã hội học, khoa học chính trị. Hệ thống không tan vào hỗn loạn. Nó tái phân tách, vẽ lại các hộp mới.
Vậy tại sao AI phải khác? Có lẽ vì tốc độ. Cách mạng Công nghiệp cho con người 150 năm để phát triển các khung tư duy mới. AI có thể chỉ cho 10 đến 15 năm. Câu hỏi thực sự là: con người có thể vẽ lại hộp nhanh đến đâu? Nếu phá vỡ diễn ra trong 10 năm nhưng tái phân tách cần 50 năm, thì khoảng cách giữa hai con số đó mới là vùng nguy hiểm. Khoảng tối trong rừng, nơi cây cũ đã đổ nhưng cây mới chưa mọc.
Một chi tiết đáng chú ý: chính Simon, người phát minh ra khái niệm phân tách gần đúng, có lẽ là bộ óc đa ngành (polymath) vĩ đại cuối cùng của thế kỷ 20. Ông vừa là nhà kinh tế (Nobel), vừa là nhà khoa học máy tính (Turing Award), vừa là tiên phong trong tâm lý học nhận thức. Ông phát hiện ra quy luật cho phép chuyên môn hóa hoạt động, nhưng bản thân ông lại là bằng chứng sống cho thấy nhìn xuyên qua các hộp đôi khi quan trọng hơn nhìn sâu vào bên trong một hộp. Nghịch lý đó nói lên rất nhiều về tình thế hiện tại.
Vấn đề Hinton hai chiều
Williams đặt Vấn đề Hinton ở một phía: chuyên gia AI hiểu sai các lĩnh vực khác. Nhưng có một Vấn đề Hinton đối xứng mà ông không nhắc đến: chuyên gia các lĩnh vực khác (kinh tế, triết học, tâm lý) đưa ra nhận định về AI bằng “mô hình dân gian” về cách công nghệ thực sự hoạt động.
Nhà kinh tế nói “AI sẽ thay thế X% lao động” mà không hiểu giới hạn kỹ thuật thực tế của các mô hình ngôn ngữ lớn. Triết gia bàn về “ý thức AI” mà không phân biệt được giữa pattern matching và lý luận nhân quả. Nhà tâm lý lo ngại “AI thao túng cảm xúc” mà không biết chatbot hiện tại vẫn chưa duy trì được ngữ cảnh qua nhiều phiên trò chuyện một cách ổn định.
Nếu Vấn đề Hinton là hai chiều, thì giải pháp “polymath” mà Williams đề xuất còn khó hơn ông nghĩ. Bạn cần độ sâu ở cả hai phía: vừa hiểu AI đủ sâu để biết nó thực sự làm được gì, vừa hiểu lĩnh vực triển khai đủ sâu để biết tác động thực sự sẽ ra sao. Số người đạt được cả hai có lẽ rất nhỏ. Thậm chí nhỏ hơn nhiều so với số người tự nghĩ mình đạt được cả hai.
Một ví dụ cụ thể: thử nghiệm MASAI ở Thụy Điển cho thấy AI hỗ trợ sàng lọc ung thư vú giảm 44% khối lượng công việc cho bác sĩ và tăng 29% tỷ lệ phát hiện ung thư. Đọc con số đó, một kỹ sư AI sẽ kết luận: “Thấy chưa, AI thay thế bác sĩ!” Một bác sĩ sẽ kết luận: “AI chỉ là công cụ hỗ trợ!” Cả hai đều đúng một phần và sai một phần. Bức tranh đầy đủ nằm ở giao điểm mà không bên nào đứng.
Kỷ nguyên vàng hay khủng hoảng?
Williams kết luận bài viết với hai kịch bản: lạc quan thì đây là “kỷ nguyên vàng cho người đa ngành và triết gia”, bi quan thì đây là “tuyệt vọng nhận thức mức vừa phải” (moderate epistemic despair), khi thế giới trở nên kém hiểu biết hơn. Ông cho rằng cả hai đều đúng cùng lúc.
Mình đồng ý, nhưng muốn thêm một lớp: lịch sử cho thấy những giai đoạn đề cao người đa ngành và triết gia trên chuyên gia thường là giai đoạn suy thoái văn minh, không phải tiến bộ. Thời kỳ Phục Hưng đi trước bởi Cái Chết Đen xóa sổ một phần ba châu Âu. Các triết gia Thời kỳ Trục (Axial Age), Khổng Tử, Đức Phật, Socrates, xuất hiện giữa hàng thế kỷ chiến tranh và bất ổn. Nếu người đa ngành phát triển khi tính phân tách gần đúng sụp đổ, và sự sụp đổ đó có nghĩa hạ tầng tri thức bị phá vỡ, thì “kỷ nguyên vàng cho người đa ngành” thực ra là một tín hiệu khủng hoảng.
Đó giống như nói y tá chiến trường có giá trị vì bệnh viện đã sụp. Đúng, nhưng không ai muốn sống trong điều kiện đó.
Williams kết bài bằng hình ảnh triết gia “ở trong bầy đoàn tốt” giữa đám đông những kẻ không biết gì. Nghe gần như an ủi. Nhưng hệ quả thực sự thì khắc nghiệt hơn: nếu chẳng ai biết gì thật, thì mọi đề xuất chính sách về AI đang được xây trên nền cát, từ quy định an toàn AI đến quản trị tài nguyên tính toán. Người ra quyết định không có xa xỉ chờ các ngành mới thành hình.
Chịu được bao lâu?
Mỗi cuộc cách mạng công nghệ lớn đều tạo ra một giai đoạn “không ai biết gì” trước khi tri thức tái tổ chức. Máy in ra đời, rồi phải mất gần 200 năm tri thức mới ổn định lại với hệ thống tạp chí học thuật. Cách mạng Công nghiệp mất khoảng 100 năm trước khi kinh tế học, xã hội học, khoa học chính trị thành hình. Cái mà Williams gọi là “tuyệt vọng nhận thức” thực ra là giai đoạn tiền phân tách: thế giới đã thay đổi nhưng các hộp chưa kịp vẽ lại.
AI chỉ khác ở tốc độ. Thay vì 100 năm để vẽ lại hộp, có thể chỉ có 10.
Và “tuyệt vọng nhận thức mức vừa phải” không phải điểm đến. Nó là điều kiện xuất phát. Mọi quyết định quan trọng về AI trong thập kỷ tới sẽ được đưa ra dưới điều kiện này: không đủ dữ liệu, không đủ lý thuyết, không đủ tiền lệ. Ngáo ngơ nhưng vẫn phải chạy. Người hoạt động hiệu quả nhất dưới điều kiện đó là người chịu được trạng thái “không biết” lâu nhất mà vẫn hành động, vẫn ra quyết định, vẫn điều chỉnh, thay vì đông cứng lại chờ một ai đó đưa cho mình tấm bản đồ.
Nhà thơ John Keats có một khái niệm ít người nhắc đến: “năng lực tiêu cực” (negative capability), khả năng tồn tại giữa sự bất định, bí ẩn, và nghi ngờ mà không vội vã chạy theo sự thật hay lý trí. Keats nói về thi ca, nhưng khái niệm đó mô tả chính xác kỹ năng lãnh đạo cần thiết nhất trong kỷ nguyên AI.
Bạn chịu được bao lâu trong trạng thái “tôi không biết” trước khi bạn bám vào một câu chuyện bất kỳ, chỉ vì nó cho bạn cảm giác ổn định?
