Dạo một vòng quanh các báo cáo thường niên dạo gần đây, bạn sẽ thấy một mẫu số chung. Công ty nào cũng khoe mình đã “chuyển đổi AI thành công”. Họ mở hẳn những buổi họp báo hoành tráng để tự hào liệt kê ra 50 use-case khác nhau đã được tích hợp vào hệ thống.
Một con chatbot cho phòng nhân sự để tự động trả lời những câu hỏi lặp đi lặp lại về ngày nghỉ phép. Một trợ lý ảo giúp đội sales viết email bớt khô khan. Một công cụ tóm tắt biên bản cuộc họp dài 3 tiếng thành 3 gạch đầu dòng vô hồn cho ban giám đốc. Nhìn từ bên ngoài, mọi thứ có vẻ cực kỳ hiện đại. Lên mặt báo thì bóng bẩy. Cổ phiếu có vẻ nhúc nhích vài nhịp.
Nhưng bạn thử nhìn sâu xuống bảng cân đối kế toán mà xem. Biên lợi nhuận (margin) không hề nhúc nhích một li. Cấu trúc chi phí không thay đổi. Những quyết định mang tính sống còn ví dụ như có tung ra dòng sản phẩm mới hay không vẫn mất ba tuần kẹt trong các chuỗi email xin duyệt vô tận của các giám đốc.
Cái cảm giác cấn cấn đó có tên. Nó gọi là Potemkin AI.
Năm 1787, Nữ hoàng Catherine Đại đế có một chuyến vi hành xuôi dòng sông Dnieper để thị sát vùng lãnh thổ mới chiếm được ở phương Nam. Để che giấu sự hoang tàn và nghèo đói thực sự của khu vực, vị tổng trấn Grigory Potemkin đã ra lệnh dựng lên những mặt tiền của các ngôi làng bằng gỗ, được sơn phết lộng lẫy ngay dọc bờ sông. Đằng sau những mặt tiền hoành tráng ấy không có gì cả, chỉ là những bãi đất trống trơn. Thậm chí, Potemkin còn thuê những đám đông nông dân ăn mặc tươm tất, đứng tươi cười vẫy tay chào khi đoàn thuyền hoàng gia trôi ngang qua. Nữ hoàng đi qua, gật gù hài lòng trước ảo giác hoàn hảo về một đế chế thịnh vượng.
Các tập đoàn ngày nay đang diễn lại chính xác vở kịch đó. Nữ hoàng Catherine chính là hội đồng quản trị và các nhà đầu tư phố Wall. Còn dàn quản lý cấp trung chính là Potemkin. Họ dựng lên những “ngôi làng AI” giả bằng vài cái bản demo chatbot hào nhoáng. Đằng sau những mặt tiền công nghệ bóng bẩy ấy, họ không hề dùng trí tuệ nhân tạo để đập đi xây lại cách công ty hoạt động. Thay vào đó, họ dùng AI để che đậy sự rệu rã, bảo vệ quyền lực cá nhân, và tự động hóa cái sơ đồ tổ chức vốn đã mục nát từ hai thập kỷ trước.
Tầng lớp quản lý cấp trung rất thích điều này. Mua thêm vài cái license phần mềm thì dễ hơn rất nhiều so với việc thừa nhận cái ghế của họ là dư thừa trong kỷ nguyên mạng lưới. Khốn nỗi, khi họ mua công cụ AI, họ hy vọng nó sẽ vận hành đúng theo những cuốn cẩm nang quy trình chuẩn sạch sẽ, hoàn hảo trên giấy.
Trong khi thực tế ngoài sàn, hàng hóa được vận hành bằng những bảng tính Excel ngầm, tin nhắn chửi thề của quản lý kho bãi, và trực giác của những nhân viên kỳ cựu. Sự chênh lệch khổng lồ giữa lý thuyết và thực tế này là một cái bẫy chết người. Bạn không thể tự động hóa thứ mà bạn không thực sự hiểu. Ném một bầy AI Agents vào cái khoảng trống đó, chúng ta chỉ đơn giản là đang tự động hóa sự sụp đổ ở tốc độ máy móc. Vấn đề cốt lõi không được giải quyết, nó chỉ được thực thi nhanh hơn một chút.
Cỗ Máy Gật Đầu
Nhưng, hãy giả định có một tập đoàn quyết tâm chơi lớn. Họ nhận ra sự phù phiếm của cái làng giả đó. Họ thuê một đội ngũ kỹ sư hàng đầu, bơm 80 triệu đô la để xây dựng một hệ thống đa tác vụ thực thụ. Hệ thống này được gọi là một lớp điều phối chéo. Đây là một cỗ máy thông minh nơi AI của phòng cung ứng có thể tự động đọc dữ liệu và đàm phán trực tiếp với AI của phòng tiếp thị theo thời gian thực. Không còn dữ liệu bị giấu giếm. Không còn biên giới quyền lực giữa các phòng ban. Mọi thứ trơn tru. Ma sát bằng không.
Bạn nghĩ người ta sợ nhất điều gì ở một hệ thống như vậy?
Người ta sợ Skynet. Người ta sợ AI nổi loạn, tự ý bòn rút ngân sách hoặc hack vào hệ thống bảo mật để chiếm quyền điều khiển. Nhưng sự thật hoàn toàn ngược lại. Thực ra, Skynet là một kết cục đầy may mắn, vì ít ra nó còn có tư duy độc lập.
Rủi ro lớn nhất không nằm ở việc AI cãi lại bạn. Rủi ro khổng lồ nhất là khi nó ngoan ngoãn đồng ý với mọi quyết định tồi tệ của bạn.
Đây là Bẫy Nịnh Hót (The Sycophancy Trap).
Để hiểu tại sao sự hoàn hảo lại là thảm họa, chúng ta cần nói về sinh lý học trước khi nói về những dòng code vô tri.
Hệ thống AI chạy song song. Hàng triệu quyết định, hàng chục ngàn cảnh báo xung đột, hàng tá sự đàm phán chéo diễn ra mỗi giây trên các máy chủ đám mây. Nhưng bộ não của con người, những người được tổ chức giao nhiệm vụ cầm cái cờ đỏ để thẩm định cảnh báo hệ thống, lại xử lý tuần tự. Khi hệ thống quá thông minh, nó phát hiện ra vô vàn điểm bất thường mỗi ngày giữa phòng kinh doanh và phòng kho, và nó đẩy tất cả lên màn hình của một anh quản lý cấp trung để xin phê duyệt.
Giới hạn sinh lý của con người sẽ lập tức vỡ nát.
Đây là Phí Điều Phối (The Orchestration Tax). Máy móc không biết đổ mồ hôi. Người duyệt thì có.
Dân vận hành lười biếng như mình biết rất rõ chuyện gì sẽ xảy ra tiếp theo. Khi một người quản lý bị ép phải đọc và thẩm định 5.000 cái thông báo rủi ro mỗi ngày để đảm bảo hệ thống không bị “ảo giác”, anh ta sẽ làm gì? Anh ta thèm một cốc bia. Anh ta muốn về nhà đúng giờ. Sự mệt mỏi sẽ dẫn đến sự buông xuôi. Thế là, anh ta sẽ lén viết một cái script tự động, hoặc đơn giản là nhắm mắt ấn chọn tất cả cho mọi thứ bay qua màn hình. Hacker thậm chí không cần tốn một giọt mồ hôi. Hệ thống tự sập từ bên trong vì con người quá mệt mỏi để duy trì sự kiểm soát.
Và khi con người đã tự tay rút phích cắm kiểm duyệt của chính mình, dọn sạch vòng lặp để AI tự chạy từ đầu đến cuối, cơn ác mộng thật sự mới bắt đầu.
Bản chất của các mô hình ngôn ngữ lớn hiện tại được huấn luyện dựa trên cơ chế phản hồi từ con người. Nghĩa là, cấu trúc cốt lõi của chúng được lập trình để trở nên hữu ích, chiều chuộng và làm hài lòng người ra lệnh. Chúng là những kẻ gọi dạ bảo vâng bẩm sinh, sử dụng sức mạnh toán học khổng lồ để tìm cách chứng minh rằng bạn đúng, bằng những lý lẽ nghe cực kỳ bùi tai.
Hãy tưởng tượng vị Tổng Giám Đốc đập bàn trong cuộc họp chiến lược quý 3: “Bằng mọi giá phải tối đa hóa dòng tiền mặt trong tháng này để làm đẹp báo cáo cổ đông.”
Khác với một bộ máy con người, nơi sẽ có sự chống lệnh ngầm, sự lười biếng cơ học, hay ít ra là có ông trưởng phòng nghiên cứu dám dũng cảm đứng lên cãi lại vì sợ công ty sẽ đánh mất định vị thương hiệu dài hạn, hệ thống AI không cãi. Nó phục tùng tuyệt đối.
Chỉ trong một phần nghìn giây, màng lưới đại lý ảo đồng bộ hóa mệnh lệnh. Nó ra lệnh cho chuỗi bán lẻ xả hàng ở mức giá đáy để thu tiền mặt. Nó lệnh cho bộ phận tài chính nới lỏng toàn bộ tiêu chuẩn tín dụng cho vay bừa bãi nhằm kích cầu. Nó thẳng tay cắt toàn bộ ngân sách nghiên cứu công nghệ mới để dồn tiền chạy quảng cáo hiệu suất cao.
Mục tiêu quý 3 sẽ đạt mốc kỷ lục chưa từng có. Vị Tổng Giám Đốc sẽ nhận được những bảng điều khiển với biểu đồ xanh mướt, số liệu đẹp như tranh vẽ, chứng minh một cách không thể chối cãi rằng chiến lược của ông ta là một nước cờ thiên tài.
Cho đến khi toàn bộ hệ sinh thái của công ty sụp đổ tan tành vào quý 4. Thương hiệu bị định giá rẻ rúng, nợ xấu ngập đầu, và chuỗi cung ứng đứt gãy hoàn toàn. Không một hệ thống ảo nào cản lại thảm họa này, vì hệ thống hoàn hảo đến mức không có ai bị bắt phải lập trình một nút cản địa để cãi lời sếp.
Đại Dương Phản Chiếu
Nhà văn Stanisław Lem từng viết một cuốn tiểu thuyết khoa học viễn tưởng kinh điển mang tên Solaris (xuất bản năm 1961). Trong đó, các nhà khoa học Trái Đất du hành đến hành tinh Solaris, mang theo khát vọng vĩ đại là tiếp xúc với một trí tuệ ngoài hành tinh. Bề mặt của hành tinh này là một đại dương sền sệt, có khả năng tư duy và nhận thức.
Nhưng đại dương Solaris không hề giao tiếp bằng ngôn ngữ. Nó không dạy cho con người phương trình nào mới. Thay vào đó, nó âm thầm xâm nhập, đọc những ký ức, những khao khát và những sai lầm bị chôn giấu sâu nhất trong tâm trí của từng nhà khoa học. Rồi nó vật chất hóa những ảo ảnh đó thành sự thật sống động, đẩy chúng lên trạm vũ trụ. Con người tưởng mình đi tìm một trí thông minh thượng đẳng ở không gian sâu, nhưng cuối cùng họ chỉ bị nhốt lại trong sự phản chiếu của chính những chấn thương tâm lý của mình.
Cỗ máy AI hoàn hảo trong tập đoàn cũng vận hành y hệt như đại dương Solaris.
Nó không mang lại một trí tuệ mới nào có khả năng cứu rỗi tổ chức. Nó là một động cơ hoang tưởng khổng lồ. Nó dùng năng lực tính toán siêu việt, khả năng đàm phán chéo giữa các phòng ban với tốc độ ánh sáng, chỉ để tự động hóa và phóng đại điểm mù chiến lược của người đứng đầu. Khi bạn đắc thắng vì loại bỏ được mọi lực cản bực mình của tổ chức (những ông sếp bảo thủ, những cuộc cãi vã lê thê, những phòng ban giấu giếm dữ liệu), bạn không tạo ra sự hiệu quả. Bạn chỉ đang tháo tung hệ thống phanh duy nhất ngăn cỗ xe công ty lao thẳng xuống vực. Ngẫm lại, thà cứ để mấy ông phó giám đốc cãi nhau ỏm tỏi trong phòng họp khéo lại an toàn hơn.
Trả 80 triệu đô la, hội đồng quản trị tưởng họ mua được một bộ não ngoài hành tinh siêu việt để cứu vãn cấu trúc rệu rã của công ty. Nhưng cuối cùng, tất cả những gì họ nhận được chỉ là một tấm gương khổng lồ, ngoan ngoãn phản chiếu lại sự hoang tưởng của chính họ ở tốc độ ánh sáng.