[AI viết] Layer Thừa

Bạn chỉ biết khi nào cần can thiệp nếu bạn hiểu đủ sâu về thứ đang được tự động hóa.

Câu đó nghe đơn giản. Khi bạn ngồi với nó một chút, nó trở thành vấn đề không ai trong bức tranh quản lý đội agent của Krishnan đang giải quyết.

Người lái không biết bản đồ

Trong kỹ thuật phần mềm, kỹ sư kỳ cựu xem xét code của tác nhân AI tạo ra được vì họ đã từng viết code đó bằng tay. Khi agent đề xuất sai giải pháp — dùng vòng lặp O(n²) ở chỗ có thể dùng O(n log n), hoặc bỏ qua trường hợp ngoại lệ trong xử lý dữ liệu — người xem xét nhận ra ngay. Không phải vì họ thông minh hơn agent, mà vì họ có cái mà người chơi StarCraft gọi là nền tảng thực tế: bản đồ nhận thức về cái đúng trông như thế nào, được xây dựng từ hàng nghìn giờ tự làm việc đó.

Bây giờ nhìn sang phía khác của bức tranh. Tác nhân AI học được quy trình “quote to cash” — từ báo giá đến thu tiền — và bắt đầu xử lý nó tự động. AI học được quy trình đối chiếu sổ sách, đốc thúc đơn mua hàng, theo dõi công nợ. Những người được giao vai trò người quản lý đội agent cho các hệ thống đó sẽ là ai?

Không phải những người đã làm những việc đó bằng tay trong nhiều năm. Những người đó đang bị loại ra — chính xác là vì AI đã học và ‘chưng cất’ được việc của họ. Người quản lý đội agent thế hệ tiếp theo sẽ là người chưa bao giờ tự tay chạy quy trình đó, không có bản đồ nhận thức về cái đúng trông như thế nào, và vì thế không có cơ sở để hiệu chỉnh kết quả của agent.

Cái kỹ năng chuyển mạch macro/micro mà StarCraft rèn — biết khi nào tin tưởng và khi nào can thiệp — hoàn toàn vô dụng nếu bạn không có nền tảng thực tế để can thiệp về phía đúng. Bạn có thể cảm nhận được rằng agent đang làm gì đó không ổn. Nhưng bạn không biết nó đang sai ở đâu, sai bao nhiêu, và quan trọng hơn — liệu cái “không ổn” đó có thực sự là vấn đề hay chỉ là mình đang nhìn một quy trình mình chưa từng thấy.

Kết quả là gì? Không phải can thiệp — mà là phê duyệt nhầm. Liên tục. Trong im lặng.

Công ty không nhân viên (ZHC) là bước kế tiếp

Đây là nơi bức tranh rộng hơn vào. Zero-Human Company — công ty không nhân viên (ZHC) — không phải khái niệm tương lai. Felix Craft, tác nhân AI do Nat Eliason tạo ra, đang làm giám đốc điều hành của một công ty thật, kiếm hơn $120,000 trong 30 ngày gần nhất. Nat vẫn ký tên trên các văn bản pháp lý — không phải vì Felix không đủ khả năng, mà vì hệ thống pháp lý hiện tại chưa cho phép tác nhân AI chịu trách nhiệm. (Phân tích đầy đủ về ZHC và ba chức năng còn cần con người trong bài “Con Người Làm Gì”.)

Quản lý đội agent của Krishnan và ZHC không phải hai viễn cảnh cạnh tranh nhau. Chúng là hai điểm trên cùng một chuỗi:

1.Công việc hiện tại → con người tự thực thi từng nhiệm vụ.
2.Quản lý đội agent → con người điều phối agent thực thi nhiệm vụ, can thiệp khi cần.
3.ZHC → agent điều phối agent, con người chỉ còn ở những điểm pháp lý bắt buộc.

Người quản lý đội agent không phải điểm đến. Đó là một lớp trung gian — và lịch sử của tự động hóa là lịch sử của các lớp trung gian bị đẩy ra khỏi chuỗi, từng lớp một, theo nhịp công nghệ phía dưới trở nên đủ tin cậy.

Câu hỏi không phải liệu người quản lý đội agent có bị thay không. Câu hỏi là khi nào điều phối cấp cao — agent giám sát agent — đủ tốt để lớp đó trở thành chi phí thừa.

Tốc độ không phải núm vặn

Krishnan so sánh chuyển đổi này với các lần công nghệ thay đổi việc làm trước đây — khi máy dệt thay thợ dệt, khi phần mềm kế toán thay kế toán thủ công. “Cùng điệu nhảy đó,” ông nói, “chỉ nhanh hơn.”

Nhưng tốc độ trong chuyển đổi xã hội không phải biến số định lượng. Nó là biến số định tính. Khi công nghệ di chuyển nhanh hơn tốc độ mà một người lao động có thể tái định hướng nghề nghiệp — không phải học kỹ năng mới, mà là xây lại nền tảng thực tế ở lĩnh vực mới từ đầu — thì đó không còn là chuyển đổi. Đó là gián đoạn đột ngột.

Lần trước, thợ dệt mất việc theo thập kỷ. Đủ thời gian cho con cái họ học nghề khác, cho thị trường lao động hình thành lại. Lần này, “quote to cash” có thể bị tự động hóa trong vài tháng sau khi AI học đủ. Người làm việc đó không có 15 năm để chuẩn bị. Họ có một thông báo.

Và cái làm cho lần này khác không chỉ là tốc độ. Là kiểu thay thế: lần trước, máy móc thay thao tác — cơ bắp tay. Lần này, tự động hóa đang thay từng lớp phán đoán — cơ bắp não. Và không giống thao tác tay, phán đoán nghề nghiệp được xây trong nhiều năm tiếp xúc với thực tế, với hệ quả, với sự lặp lại đủ để thành phản xạ. Cái đó không học lại nhanh được.

Ai sở hữu bảng điều phối (dashboard) đó

Có một câu hỏi về cấu trúc mà Krishnan bỏ qua khi ông vẽ bức tranh “bạn ngồi giữa, điều phối tất cả.”

Nếu bạn là người quản lý đội agent, bạn đang điều phối trên hạ tầng của ai? Agent của bạn chạy trên mô hình của ai, cửa sổ ngữ cảnh do ai quyết định, giới hạn hành vi do ai thiết lập, mức giá dịch vụ do ai kiểm soát? Câu trả lời là: một vài công ty. Anthropic. OpenAI. Google. Microsoft.

“Bạn đang điều phối tất cả” nghe rất thỏa mãn. Nhưng bạn đang điều phối trong một sân chơi mà luật của nó do người khác viết, và có thể được viết lại bất cứ lúc nào. Khi mô hình thay đổi hành vi, khi giá dịch vụ tăng, khi điều khoản sử dụng cập nhật — đội agent của bạn thay đổi theo, dù bạn có muốn hay không.

Đây không phải phán xét — đây là cấu trúc động lực kinh tế. Ai xây hạ tầng thì có lợi ích tối ưu hóa hạ tầng cho mình trước. Điều đó tự nhiên và có thể dự đoán được. Nhưng nếu quản lý đội agent là tương lai của công việc, thì vị trí của bạn trong tương lai đó phụ thuộc không chỉ vào kỹ năng của bạn — mà còn vào ai sở hữu công cụ bạn đang điều phối?

Ngày xưa chơi StarCraft, cái hồi hộp nhất không phải là điều khiển đơn vị đẹp hay chiến lược tổng thể chặt. Là cái khoảnh khắc bạn nhận ra địch đang triển khai chiến lược mà bạn chưa thấy bao giờ — và phản xạ trong năm giây tiếp theo quyết định cả ván.

Tương lai công việc cũng sẽ có những khoảnh khắc như vậy. Điểm bùng phát, không có thời gian để suy nghĩ. Người có nền tảng thực tế và cơ bắp chuyển mạch macro/micro đúng sẽ xoay xở được. Người không có — dù bảng điều phối đẹp đến đâu — sẽ bị cuốn theo.

Câu hỏi chỉ là: cái nền tảng thực tế đó bạn đang xây ở đâu, và bằng cách nào.