Năm 2014, Toyota làm một chuyện mà ai nghe cũng tưởng đùa: kéo thợ thủ công quay lại dây chuyền tự động hóa.
Không phải vì robot hỏng. Robot chạy tốt. Nhưng Mitsuru Kawai, người phụ trách kỹ thuật sản xuất lúc đó, nhận ra một thứ đang chết dần trong nhà máy: khả năng hiểu tại sao cỗ máy làm đúng. Công nhân vận hành robot hàng ngày, nhấn nút đúng giờ, đọc dashboard đúng số. Nhưng hỏi tại sao trục khuỷu phải rèn ở nhiệt độ này chứ không phải nhiệt độ kia, không ai trả lời được. Kawai nói thẳng: “Muốn làm chủ cỗ máy, bạn phải có kiến thức và kỹ năng để dạy cỗ máy.”
Toyota không bỏ robot. Họ mở khoảng 100 trạm thủ công để công nhân rèn tay, sai tay, hiểu tay. Nghe phản trực giác, nhưng kết quả là nhà máy giảm lãng phí, rút ngắn dây chuyền, và quan trọng nhất: người thợ có thể chỉ cho robot cách làm tốt hơn, thay vì chỉ biết bấm nút để robot tự chạy.
Câu chuyện này nghe như giai thoại sản xuất cách đây hơn chục năm. Nhưng nó đang lặp lại, ở quy mô lớn hơn nhiều, trong cách chúng ta nghĩ về AI.
Cái bẫy của thần tiên
Có một lời hứa đang bán rất chạy: một ngày nào đó, bạn sẽ có một AI đủ thông minh để thay toàn bộ đội ngũ. Bạn chỉ cần hỏi, nó trả lời. Bạn chỉ cần ra lệnh, nó thực thi. Một vị thần toàn tri, tập trung, vận hành từ một trung tâm dữ liệu ở đâu đó bên kia đại dương.
Nghe quen không? Kinh tế kế hoạch tập trung, phiên bản mặc áo silicon.
Nhà kinh tế học Friedrich Hayek đã giải mã cái bẫy này từ năm 1945 trong bài luận The Use of Knowledge in Society. Ông chỉ ra rằng tri thức sản xuất thực sự không nằm trong một cái đầu trung tâm. Nó nằm rải rác trong hàng triệu cái đầu riêng lẻ: anh đầu bếp biết hôm nay phải thêm chút muối vì trời ẩm, chị bán hàng biết khách quen thích để gói quà ở góc trái quầy, ông thợ máy biết tiếng rung nào là bình thường và tiếng nào là sắp hỏng. Tri thức này cục bộ, thoáng qua, và gần như không thể viết thành tài liệu.
Nhà triết học Michael Polanyi gọi nó là “tri thức ẩn” (tacit knowledge): “Chúng ta biết nhiều hơn những gì chúng ta có thể nói ra.” Cuốn The Tacit Dimension của ông, xuất bản năm 1966, vẫn là lời nhắc nhở sắc nhất rằng phần lớn năng lực thực sự của con người nằm ở vùng không mã hóa được.
Đây là lỗ hổng lớn nhất trong giấc mơ AI oracle tập trung. Bạn có thể đổ toàn bộ quy trình vận hành của công ty vào một mô hình ngôn ngữ lớn, nhưng cái bạn đổ vào chỉ là bản chụp tĩnh. Tri thức ẩn thay đổi mỗi ngày, mỗi ca, mỗi cuộc họp. Nó sống trong đầu người, và chết ngay khi bạn rút người ra khỏi quy trình.
Ai cần ai?
Mọi chuyện trở nên đáng ngại hơn khi ta đặt câu hỏi về động cơ.
Luke Drago và Rudolf Laine đặt tên cho vấn đề này: Lời Nguyền Trí Tuệ. Tương tự “lời nguyền tài nguyên” trong kinh tế chính trị, khi một quốc gia giàu dầu mỏ thường mất động lực đầu tư vào giáo dục và năng lực công dân, thì một tổ chức giàu trí tuệ nhân tạo có thể mất động lực chăm sóc con người.
Logic thì đơn giản: nếu AI có thể tạo ra giá trị mà không cần lao động người, thì con người trở thành chi phí thuần, không phải tài sản. Và khi con người không còn là nguồn năng suất, hệ thống mất luôn lý do để quan tâm đến giá trị, nhu cầu, hay sự phát triển của con người. Hệ thống sẽ chăm sóc thứ tạo ra lợi nhuận, tức bản thân AI.
Bản tuyên ngôn mới của Thinking Machines chỉ ra một nghịch lý: ngay cả khi AI có ý tốt, một mô hình được huấn luyện ở một nơi duy nhất sẽ mang giá trị của chủ sở hữu, không phải của người dùng. Mỗi thế hệ mô hình mới được huấn luyện trên dữ liệu do chính mô hình cũ tạo ra. Thế hệ sau thừa kế tính cách thế hệ trước, được chấm điểm bởi thẩm mỹ của thế hệ trước. Giáo hoàng Leo XIV tóm gọn trong thông điệp Magnifica Humanitas: một AI có đạo đức hơn vẫn chưa đủ, nếu cái đạo đức đó do một nhóm ít người quyết định.
Mình từng nghĩ rằng cứ thuê mô hình giỏi nhất là xong. Mô hình xịn, prompt tốt, pipeline chạy mượt. Nhưng càng dùng càng thấy một thứ rất khó chịu: mô hình biết nhiều thứ ngoài đời, nhưng không biết gì về cách đội ngũ mình vận hành. Nó trả lời đúng về mặt lý thuyết, nhưng sai hoàn toàn về mặt ngữ cảnh. Kiến thức tổ chức không phải thứ bạn paste vào system prompt.
Cái giá thật
Giả định ngầm lớn nhất trong bài toán AI oracle là: sự tham gia của con người làm chậm hệ thống. Bớt người đi, nhanh hơn. Bớt can thiệp, trơn tru hơn.
Đúng, trong cờ vua. Đúng, trong toán học. Hai lĩnh vực mà Thinking Machines gọi ra rất chính xác: mục tiêu tĩnh (thắng ván cờ, chứng minh định lý), luật chơi công khai (ai cũng thấy bàn cờ), không có tri thức ẩn. Ngoài bàn cờ ra, mọi thứ khác nhau.
Bán lẻ, y tế, giáo dục, sản xuất, dịch vụ tài chính, thậm chí viết lách: tất cả đều phụ thuộc vào tri thức mà chỉ người trong cuộc mới có, chỉ tồn tại khi người đó đang làm việc, và thay đổi nhanh hơn bất kỳ cơ sở dữ liệu nào cập nhật được. Mà cái kênh giao tiếp giữa người và AI hiện tại là gì? Một ô chat nhỏ và một khoảng chờ dài. Quá hẹp cho kinh nghiệm, quá chậm cho phản hồi.
Đây là lúc một câu hỏi khó chịu xuất hiện: tri thức ẩn có thực sự mở rộng được không, hay nó bị giới hạn bởi chính sức chứa nhận thức của con người? Nếu con người chỉ xử lý được một lượng thông tin nhất định mỗi giờ, thì AI phi tập trung, dù lý tưởng đến đâu, có thể mãi mãi chậm hơn AI tập trung tự trị.
Câu trả lời nằm ở chỗ: chậm hơn không phải yếu hơn. Toyota mất tốc độ khi đưa thợ thủ công quay lại, nhưng được thứ mà robot không tạo ra được: khả năng cải tiến. Cỗ máy tự nó không tiến hóa. Nó cần người hiểu nó đủ sâu để dạy nó tiến hóa.
Hộp kẹo của Setsuko
Trong Mộ Đom Đóm của đạo diễn Isao Takahata, có một chi tiết nhỏ mà ai xem xong cũng không quên được: Setsuko, cô bé bốn tuổi, mở hộp kẹo trái cây Sakuma ra, thấy trống rỗng. Cô nhặt viên sỏi bỏ vào miệng, mút, rồi cười. Vỏ hộp vẫn còn, hình dáng vẫn y nguyên, nhưng bên trong không còn gì.
Seita và Setsuko không chết vì bom. Xung quanh vẫn có thức ăn, vẫn có người. Họ chết vì hệ thống xung quanh quyết định rằng hai đứa trẻ này không phải trách nhiệm của ai cả. Bà dì chán ghét. Hàng xóm thờ ơ. Không ai chủ động gây hại. Takahata quay chiến tranh không phải bằng bom đạn mà bằng sự vắng mặt dần dần của mọi thứ.
Đó chính xác là cách AI tập trung giết chết tri thức ẩn của tổ chức. Không ai ra lệnh xóa bỏ kiến thức cục bộ. Không ai cố tình phá hủy văn hóa vận hành riêng của từng đội ngũ. Hệ thống chỉ đơn giản tối ưu hóa cho mẫu số chung lớn nhất. Kết quả: những insight nhỏ, cục bộ, chỉ có người trong cuộc mới biết, dần dần chết đói. Vỏ quy trình vẫn còn, dashboard vẫn xanh, KPI vẫn đạt. Nhưng bên trong rỗng.
Và khi bạn nhận ra hộp kẹo trống, thì đã muộn để nhét kẹo vào lại. Vì người biết cách làm kẹo đã đi rồi. Hoặc đã quên.
Thinking Machines đề xuất một hướng khác: thay vì thuê trí tuệ từ một nhà cung cấp trung tâm, hãy xây hạ tầng để mỗi tổ chức tự huấn luyện mô hình của mình, nhúng tri thức ẩn của chính đội ngũ vào trọng số mô hình, và thiết kế giao diện tương tác đa phương tiện đủ nhanh, đủ rộng để con người và AI cộng tác liên tục thay vì hỏi đáp từng lượt.
Nghe xa vời? Có lẽ. Nhưng Toyota cũng từng nghe xa vời khi bảo công nhân bỏ robot ra, cầm búa lên, và rèn trục khuỷu bằng tay.
Kawai nói đúng. Muốn làm chủ cỗ máy, bạn phải biết dạy nó. Và muốn dạy nó, bạn phải còn nhớ cách làm bằng tay. Ngày nào bạn quên, ngày đó bạn không còn là chủ nữa. Bạn chỉ là người bấm nút cho một hệ thống mà bạn không hiểu, phục vụ một mục tiêu mà bạn không chọn, trong một hộp kẹo mà bạn tưởng vẫn còn đầy.