Sáng thứ Hai, mình mở laptop thì 5 cái pipeline đã chạy xong từ lúc nào. Market Dash tổng hợp xong, bản tin Enterprise gửi rồi, Lunch Break đang chờ, Weekly Review nằm sẵn trong inbox. Mọi thứ xanh lè, đẹp như slide deck của vendor bán giải pháp tự động hóa.
Trừ 3 ô nằm im lìm ghi “n/a” ở Market Dash. Ba instrument bị rớt data mà hệ thống không hề cảnh báo, vì với nó, “n/a” cũng là một giá trị hợp lệ. Mình suýt nữa cũng không thấy, bởi lướt dashboard sáng thứ Hai giống lướt feed hơn là đọc báo cáo. Câu hỏi tự nó hiện ra: mình vừa tiết kiệm 2 tiếng hay vừa mua 2 tiếng lo âu kiểu mới?
Gartner nói thẳng một câu mà dân xây AI agent nên dán lên màn hình: “Nhiều use case đang được gắn mác agentic thực ra không cần agentic.” Dự báo của họ: hơn 40% dự án agentic AI sẽ bị hủy trước cuối 2027. Lý do không phải công nghệ yếu, mà vì người ta thích xây cỗ máy Rube Goldberg phức tạp gấp mười lần vấn đề nó giải quyết, rồi bọc vỏ “trí tuệ nhân tạo” cho oai.
Mình thử hỏi ba hệ thống AI khác nhau cùng một câu: “Có nên tự động hóa mọi thứ không?” Một trong ba gọi thẳng thói xây cho oai là “sĩ diện kiến trúc” (architectural vanity). Cron job cộng Python script cộng API gọi trực tiếp đã đủ, nhưng thiếu cái hào nhoáng của agent tự suy luận 20 bước rồi tự gọi tool. Cả ba hội tụ vào một quy tắc xếp tầng: script deterministic thắng LLM pipeline, LLM pipeline thắng autonomous agent. Chỉ leo thang khi tầng dưới thật sự bất lực. Không phải khi tầng dưới “nhàm chán”.
Nói công bằng, OECD cho thấy 4 trên 5 người lao động nói AI cải thiện hiệu suất, 3 trên 5 thích thú hơn khi làm việc. Automation đúng chỗ tạo giá trị thật, cái đó không ai tranh cãi. Vấn đề là hầu hết người ta không phân biệt được “đúng chỗ” với “vì có thể” cho đến khi đã xây xong và bắt đầu trả giá bảo trì.
Phép nhân của sự sai
Phép toán đơn giản mà ít ai chịu ngồi tính: một hệ thống 20 bước, mỗi bước chính xác 95%, xác suất toàn bộ quy trình chạy sạch chỉ còn 35,8%. Hạ xuống 85% mỗi bước, chuỗi 10 bước còn chừng 20%. Không phải số vẽ trên khăn ăn: OSWorld 2.0 chạy 108 workflow dài, hệ thống tốt nhất hoàn thành 20,6%. APEX-Agents 2026 đo tác vụ multi-step thực tế: 24% thành công ngay lần đầu.
Cái bẫy nằm ở chỗ: càng nhiều bước nối chuỗi, càng cần nhiều con người kiểm tra giữa chừng. Bạn đang trả lại chính cái lao động vừa “tiết kiệm”. Một script Python đạt 99,9% mỗi bước thường thắng phẳng một agent 92%, đơn giản vì script không có chỗ nào để sai sáng tạo.
Agent xử lý được tình huống ngoại lệ mà script cứng không bao được, điều này đúng. Nhưng bao nhiêu phần trăm workflow hàng ngày thật sự cần đối phó tình huống ngoại lệ, và bao nhiêu phần trăm chỉ cần chạy đúng cái cũ? Câu trả lời trung thực từ stack của mình: đa số chỉ cần chạy lại cái cũ cho đúng.
Năm 1983, nhà tâm lý học nhân tố con người Lisanne Bainbridge ngồi quan sát các operator trong nhà máy và viết một bài báo mà bốn mươi mấy năm sau vẫn đúng đến rợn. Bà gọi nó là nghịch lý tự động hóa (Ironies of Automation). Ý chính gói gọn thế này: tự động hóa loại bỏ công việc thường xuyên, nhưng tạo ra công việc giám sát. Và giám sát hệ thống ổn định lại là thứ con người làm tệ nhất. Khi hệ thống “tự chạy” đủ lâu, kỹ năng người vận hành thoái hóa. Đến lúc hệ thống fail, đúng là lúc người gác kém nhất. Cái vòng lặp đó mới thật sự ác.
BCG đo được cái giá bằng số cụ thể: giám sát output AI tạo thêm 12% kiệt sức tinh thần, điểm mệt quyết định (decision fatigue) tăng 33%, tỷ lệ lỗi nghiêm trọng tăng 39%. Một nghiên cứu từ Microsoft xác nhận thêm: người càng tin tưởng AI, tư duy phản biện càng giảm đo được. Nassim Taleb có một từ cho kiểu can thiệp gây hại nhiều hơn bản thân vấn đề: iatrogenics. Tự động hóa mà không tính chi phí giám sát chính là một dạng iatrogenics nhẹ, cái loại mà bạn không nhận ra cho đến khi đã quen.
Nhưng khoan. BCG đo nhân viên văn phòng dùng AI chatbot nói chung, không phải kỹ sư quản pipeline chuyên biệt. “Brain fry” có thể xảy ra chủ yếu khi triển khai cẩu thả chứ giám sát một pipeline ổn định thì nhẹ nhàng hơn nhiều? Câu hỏi hợp lý, và câu trả lời không đơn giản. Bainbridge chỉ ra vấn đề sâu hơn: bản chất của việc ngồi chờ lỗi hiếm. Vì lỗi hiếm nên bạn mất cảnh giác. Vì mất cảnh giác nên khi lỗi đến, bạn miss. Cái vòng đó không phụ thuộc công cụ hay trình độ.
Nhàn hơn hay bận hơn?
Cũng năm 1983 (năm tốt cho những bài báo khó chịu), nhà sử học Ruth Schwartz Cowan xuất bản More Work for Mother. Luận điểm: máy giặt, máy hút bụi, lò vi sóng không tạo ra thời gian rảnh cho phụ nữ. Tiêu chuẩn sạch leo thang nuốt trọn mọi giờ tiết kiệm. Công việc vốn chia cho cả nhà giờ dồn hết lên một người.
Dịch sang thời AI: vì tạo một bản briefing gần như miễn phí, bạn không đọc một bản chọn lọc mỗi ngày nữa mà đọc năm bản. Chất lượng thông tin có gấp năm? Hay sự chú ý bị chiếm đóng hoàn toàn? Mình nhìn vào stack của mình (Market Dash, Enterprise Weekday, Lunch Break, Bạn có biết hem?, Weekly Review) mà thấy câu hỏi đó cắn khá đau.
MIT Media Lab đo EEG não bộ và phát hiện một quy tắc thiết kế đáng giá: người suy nghĩ trước rồi mới dùng LLM giữ được khả năng ghi nhớ và tư duy độc lập. Người dùng LLM trước thì bị suy giảm nhận thức kéo dài, kể cả sau khi đã bỏ công cụ đi. Quy tắc rút ra đơn giản đến khó chịu: hình thành luận điểm của mình trước, để agent chạy lượt hai. Làm ngược lại là tự triệt.
Phản biện không thiếu: đây có phải moral panic kiểu “TV làm ngu người, Google giết trí nhớ”? Mỗi thế hệ công nghệ đều bị cáo buộc phá hủy năng lực tư duy. Khác biệt lần này là MIT đo sóng não thật chứ không phải chỉ survey chủ quan. Nhưng mẫu nhỏ, chưa replicate đủ. Mình ghi nhận rủi ro đó và vẫn chọn áp dụng quy tắc brain-first, vì downside của nó bằng không mà upside thì rõ ràng.
Nói tới đây lại nhớ ba kỷ luật mà cả ba đều đồng ý: dành 20 đến 30 phần trăm thời gian xây cho bảo trì hàng năm, xóa bất kỳ automation nào tiết kiệm dưới 5 giờ mỗi năm sau khi trừ chi phí vận hành. Chạy tay một quy trình 10 đến 20 lần trước khi tự động hóa, chỉ automate cái 80% ổn định, giữ 20% cần phán đoán cho người. Và câu quan trọng nhất, câu mà mình nghĩ nên hỏi trước khi viết dòng code đầu tiên: “Bạn sẽ cố ý dùng thời gian tiết kiệm được vào đâu?” Không trả lời được thì bạn mua thông lượng (throughput), không mua tự do.
Phản biện cuối cùng: luật “chạy tay 10 đến 20 lần” nghe thiên vị bảo thủ. Có automation phải xây thử mới biết giá trị. Đúng, nhưng hãy gọi đó là thử nghiệm và đặt ngày hết hạn cho nó. Đừng gọi là hạ tầng rồi quên xóa.
Trong stack của mình, Weekly Review là automation hiếm hoi mà mình thấy thật sự xây khả năng phán đoán, vì nó buộc mình ghi lại dự đoán đầu tuần, rồi cuối tuần tự chấm: đúng hay sai, trật ở đâu. Cái vòng phản hồi đó buộc mình phải nghĩ chứ không chỉ tiêu thụ thông tin thụ động. Market Dash thì đáng bị tra hỏi. Mình không trade dựa trên nó. Nó chạy mỗi sáng, tạo cảm giác có lợi thế thông tin, trong khi 3 instrument đang trả n/a và mình không hay biết.
Sáng mai, 5 pipeline sẽ lại chạy xong trước khi mình pha xong cà phê. Ba ô “n/a” sẽ vẫn nằm đó, im lìm, lịch sự, hợp lệ về mặt kỹ thuật. Hệ thống không báo lỗi vì nó không biết đó là lỗi. Mình không phát hiện vì mình đã quyết định tin rằng cỗ máy tự chạy.
Cỗ máy hoạt động hoàn hảo. Chỉ thiếu người canh.