“Our comforting conviction that the world makes sense rests on a secure foundation: our almost unlimited ability to ignore our ignorance.”
- Daniel Kahneman, Thinking, Fast and Slow
Thứ Sáu tuần trước, mình ngồi cùng đội vận hành để rà soát lại luồng chạy thử nghiệm của một dàn AI agent chuyên xử lý khiếu nại đơn hàng và đề xuất mức chiết khấu xả hàng cận hạn cho chuỗi bán lẻ. Để đảm bảo an toàn tuyệt đối cho giai đoạn đầu, cậu kỹ sư trưởng thiết kế một quy trình cực kỳ cẩn thận: mỗi khi con AI phân tích xong dữ liệu tồn kho và soạn xong phương án giảm giá hoặc tin nhắn đền bù cho khách, hệ thống sẽ tự động dừng lại, đẩy một phiếu chờ duyệt về màn hình của trưởng ca vận hành. Người thật phải đọc, kiểm tra rồi tự tay bấm nút xác nhận thì lệnh mới được chạy. Ai trong phòng họp nhìn sơ đồ đó cũng thở phào nhẹ nhõm vì thấy quyền sinh sát vẫn nằm gọn trong tay con người.
Nhưng đến lúc mình mở nhật ký hệ thống của mấy ngày chạy thử ra xem thì cả phòng bắt đầu cười méo xệch. Trong ngày đầu tiên, khi số lượng phiếu đề xuất từ AI gửi về còn thưa thớt, các trưởng ca đọc khá kỹ từng đơn, tra cứu lại tồn kho rồi mới bấm xác nhận, tỷ lệ chỉnh sửa lại câu chữ hoặc bác bỏ mức chiết khấu của máy rất đáng kể. Sang ngày thứ hai và thứ ba, khi lượng phiếu đổ về dồn ứ lên tới hàng trăm phiếu trước giờ tan tầm, thời gian duyệt trung bình trên mỗi phiếu tụt thẳng đứng xuống chỉ còn vài giây ngắn ngủi. Có những khung giờ cao điểm buổi chiều, người trực ca bấm duyệt liên hoàn hàng chục phiếu chỉ trong vài phút, tức là thời gian dừng lại ở mỗi phiếu chỉ vừa đủ cho mắt tìm thấy cái nút màu xanh trên màn hình và ngón trỏ nhấp chuột. Con người vẫn ngồi chễm chệ ở vị trí người phê duyệt cuối cùng trên sơ đồ kiến trúc, nhưng bộ não thì đã đăng xuất khỏi quy trình từ lúc hai giờ chiều. Đúng nghĩa bấm cho xong.
Hóa ra cái cảnh tượng ngón tay bấm duyệt trong vô thức đó lại là bài toán hóc búa nhất khi các doanh nghiệp đưa AI từ phòng thí nghiệm ra môi trường tác chiến. Vào ngày 06/06/2026, nhóm kỹ sư của nền tảng tổng đài giọng nói tự động Famulor AI Team đã đăng tải một bài phân tích hệ thống hóa lại ba vị trí kinh điển của con người đối với chu trình nhận diện, quyết định và hành động (perceive-decide-act cycle) của AI: con người trong vòng lặp (Human-in-the-Loop, viết tắt là HITL), con người trên vòng lặp (Human-on-the-Loop, viết tắt là HOTL), và con người ngoài vòng lặp (Human-out-of-the-Loop, viết tắt là HOOTL).
Cách phân loại ba tầng này xuất hiện trong hầu hết các bản thuyết trình bán phần mềm doanh nghiệp năm 2026 vì nó quá gọn gàng. Tuy nhiên, nếu đem đối chiếu từng cấp độ này với các số liệu thực nghiệm về tâm lý học nhận thức và lịch sử tai nạn vận hành, bạn sẽ thấy cả ba cấp độ trên đều mang những lỗ hổng chí mạng. Muốn hệ thống tự hành chạy ở quy mô lớn mà nhân sự vẫn giữ được sự tỉnh táo lẫn quyền kiểm soát thực chất, kiến trúc vận hành hiện đại buộc phải dịch chuyển sang một vị trí thứ tư: con người cạnh vòng lặp (Human-near-the-Loop, viết tắt là HNTL).
Cái Bẫy Duyệt Tay
Hãy bắt đầu từ cấp độ đầu tiên mang lại cảm giác an tâm nhất cho các sếp: con người trong vòng lặp (HITL). Theo định nghĩa của nhóm tác giả tại Famulor, ở mô hình này, AI làm nhiệm vụ phân tích dữ liệu và soạn thảo phương án, sau đó dừng lại hoàn toàn. Mọi hành động đều bị khóa cứng cho tới khi một con người cụ thể đọc, chỉnh sửa hoặc bấm nút phê duyệt. Điểm mạnh trên lý thuyết của HITL là khả năng kiểm soát tối đa và quy trách nhiệm rõ ràng, rất hợp với các tác vụ rủi ro cao hoặc khó đảo ngược. Điểm yếu dễ thấy nhất của nó là tốc độ chậm chạp vì con người trở thành điểm nghẽn làm chậm lưu lượng toàn hệ thống.
Thế nhưng, điểm chết người thực sự của HITL nằm ở chỗ: ngay cả khi bạn chấp nhận hy sinh tốc độ để đổi lấy sự an toàn, sự an toàn đó cũng sẽ tự bốc hơi khi quy mô hàng đợi vượt qua ngưỡng chịu đựng của hệ thần kinh. Dân kỹ thuật đi làm quản trị như mình từng ngây thơ tin rằng một bộ não con người cộng với một mô hình AI thì kiểu gì cũng phải thông minh hơn một mình con AI tự chạy. Thực tế ngược hẳn.
Cuối năm 2024, ba nhà nghiên cứu Michelle Vaccaro, Abdullah Almaatouq và Thomas W. Malone tại Viện Công nghệ Massachusetts (MIT) đã công bố trên tạp chí Nature Human Behaviour một nghiên cứu phân tích tổng hợp (meta-analysis) đồ sộ nhất từ trước tới nay về hiệu suất kết hợp người và AI. Nhóm tác giả đã mổ xẻ 106 nghiên cứu thực nghiệm nằm trong 74 công trình khoa học đã xuất bản, bao quát tổng cộng 370 cỡ hiệu ứng (effect sizes). Kết quả làm giới làm sản phẩm choáng váng: tính trung bình trên toàn bộ các tác vụ ra quyết định, các tổ hợp kết hợp người với AI (theo mô hình con người duyệt lại gợi ý của máy) đạt hiệu suất thấp hơn so với việc để tác nhân giỏi hơn (hoặc con người, hoặc con AI) tự làm một mình.
Tại sao ghép thêm người vào kiểm duyệt lại làm kết quả chung tệ đi? Câu trả lời nằm ở hai cơ chế tâm lý đã được đo đếm rất kỹ bằng số liệu thực nghiệm:
- Thiên kiến tự động hóa (automation bias) và hiện tượng đổi đúng thành sai: Trong tổng quan hệ thống kinh điển đăng trên tạp chí y khoa Journal of the American Medical Informatics Association (JAMIA) năm 2012, ba nhà nghiên cứu Kate Goddard, Abdul Roudsari và Jeremy C. Wyatt đã khảo sát các hệ thống hỗ trợ quyết định lâm sàng (CDSS) trong bệnh viện. Họ phát hiện ra rằng khi bác sĩ tự chẩn đoán đúng ngay từ đầu, nhưng sau đó màn hình máy tính lại nhảy ra một gợi ý sai lệch, có từ 6% đến 11% số ca các bác sĩ đã tự gạch bỏ phán đoán đúng của chính mình để làm theo phương án sai của máy, một hiện tượng được gọi là tham vấn âm tính (negative consultations).
- Sự suy giảm độ chính xác theo gánh nặng thao tác: Các thí nghiệm hành vi theo dõi quá trình con người kiểm chứng bảng biểu dữ liệu do AI sinh ra cho thấy độ chính xác cơ sở của người duyệt vốn chỉ quanh quẩn ở mức 47% đến 55% (tương đương tung đồng xu). Khi phải đối mặt với hàng đợi lặp đi lặp lại kèm áp lực thời gian, cứ mỗi lượt duyệt tiếp theo dưới tải nhận thức cao, độ chính xác của con người lại tụt thêm khoảng 1,7%. Khi việc sửa một lỗi của AI đòi hỏi người duyệt phải gõ lại lý do hoặc tra cứu chéo sang màn hình khác, gánh nặng thao tác sẽ khiến nhân viên chọn con đường ít tốn calo nhất: bấm nút đồng ý cho xong chuyện.
Nói thẳng ra, khi một mô hình AI làm đúng phần lớn các trường hợp thông thường, việc bắt một nhân viên ngồi duyệt từng phiếu một trong vòng lặp HITL sẽ dẫn tới phản xạ bấm nút cho qua chuyện. Bạn vừa phải trả lương cho nhân sự, vừa chịu độ trễ hàng giờ đồng hồ, lại vừa nhận về một cái gật đầu thiếu kiểm chứng. Ngon bổ rẻ đâu chẳng thấy.
Ai Canh Màn Hình Trực Tiếp?
Khi nhận ra HITL làm tắc nghẽn luồng vận hành, các công ty phần mềm lập tức chào hàng phương án thứ hai nghe hấp dẫn hơn hẳn: con người trên vòng lặp (HOTL). Trong bài viết của Famulor, HOTL được mô tả là điểm cân bằng giữa tốc độ và sự an toàn. Ở chế độ này, trợ lý AI tự động thực thi trọn vẹn cuộc gọi hoặc giao dịch từ đầu tới cuối mà không cần xin phép từng bước. Con người ngồi ở tầng giám sát phía trên thông qua các bảng điều khiển trực tiếp (live dashboards), hệ thống cảnh báo, nút dừng khẩn cấp (stop button) và tính năng giành quyền điều khiển tức thời (live takeover) ngay khi cuộc gọi trở nên phức tạp, căng thẳng về cảm xúc hoặc có giá trị thương mại lớn.
Nghe trên bàn giấy thì đúng là phương án lý tưởng của mọi giám đốc vận hành. Nhưng nếu bạn từng trực tiếp điều hành một trung tâm chăm sóc khách hàng hoặc một phòng trực kỹ thuật, bạn sẽ nhận ra ngay lỗ hổng toán học của mô hình HOTL: một con người chỉ có thể nghe và hiểu theo thời gian thực tối đa một luồng âm thanh hoặc văn bản tại một thời điểm. Nếu bạn giao cho một nhân viên giám sát cùng lúc hàng chục cuộc gọi đang diễn ra của dàn tổng đài viên AI (voice agent), người đó làm sao biết cuộc gọi nào đang bắt đầu căng thẳng để nhảy vào tiếp quản? Họ buộc phải dựa vào một mô hình AI khác chạy ngầm bên dưới để chấm điểm cảm xúc và bật cờ đỏ cảnh báo. Lúc này, độ an toàn của cả hệ thống nằm trọn ở tỷ lệ bỏ sót lỗi (false-negative rate) của con AI gác cổng, còn người ngồi trước màn hình thực chất chỉ làm nhiệm vụ bấm nút hộ khi máy đã hú còi.
Nguy hiểm hơn, tâm lý học công nghiệp đã chứng minh từ hơn bốn thập kỷ trước rằng con người là sinh vật tệ nhất hành tinh nếu bị giao nhiệm vụ ngồi nhìn một màn hình đang chạy trơn tru để chờ bắt lỗi. Năm 1983, nhà tâm lý học nhận thức Lisanne Bainbridge tại Đại học College London đã công bố bài báo kinh điển Ironies of Automation trên tạp chí Automatica. Bainbridge chỉ ra hai nghịch lý tàn nhẫn của mọi hệ thống giám sát kiểu HOTL:
- Nghịch lý phần việc thừa lại: Các kỹ sư tự động hóa luôn lập trình cho máy làm hết những việc dễ, lặp đi lặp lại và dễ đoán, rồi đẩy toàn bộ những ca dị biệt, hỗn loạn nhất cho con người xử lý khi máy bó tay.
- Nghịch lý xói mòn kỹ năng và sự tỉnh táo: Chính vì máy đã làm thay phần lớn công việc thường ngày, người giám sát bị tước mất cơ hội thực hành liên tục và mất hoàn toàn bức tranh ngữ cảnh tức thời (situational awareness). Khi sự cố bất ngờ nổ ra, hệ thống đòi hỏi một con người đang trong trạng thái lơ mơ vì nhàm chán phải lập tức hiểu toàn bộ trạng thái phức tạp của hệ thống trong vài giây để cứu nguy. Sinh học không cho phép.
Chúng ta có số liệu đo đếm chính xác tới từng phần mười giây cho sự sụp đổ của mô hình HOTL ngoài đời thực. Đêm ngày 18/03/2018 tại thành phố Tempe, bang Arizona, một chiếc xe thử nghiệm tự hành Volvo XC90 của Uber vận hành theo đúng kiến trúc con người trên vòng lặp (HOTL): xe tự lái hoàn toàn, còn tài xế dự phòng Rafaela Vasquez ngồi ở ghế lái với nhiệm vụ nhìn đường và bảng điều khiển để đạp phanh hoặc giành lại vô lăng khi có tình huống bất ngờ.
Theo báo cáo điều tra dài hạn của Ủy ban An toàn Giao thông Quốc gia Mỹ (NTSB) và hồ sơ trích xuất từ sở cảnh sát Tempe, trong chuyến đi kéo dài gần 22 phút trước khi xảy ra tai nạn, tài xế giám sát đã cúi mặt nhìn xuống chiếc điện thoại cá nhân đang phát trực tuyến chương trình ca nhạc The Voice trên ứng dụng Hulu trong suốt 31% tổng thời gian di chuyển. Đỉnh điểm là trong 5,7 giây cuối cùng trước khi chiếc xe tông tử vong người đi bộ Elaine Herzberg đang dắt xe đạp qua đường, người tài xế giữ vai trò giám sát đã nhìn xuống dưới suốt 5,2 giây, và chỉ ngẩng mặt lên đúng 0,5 giây trước cú va chạm ở vận tốc 63 km/giờ.
Sau vụ tai nạn, Uber không bị truy tố hình sự, còn người tài xế giám sát phải một mình đứng trước tòa nhận bản án quản chế vì tội gây nguy hiểm. Năm 2019, nhà nhân học và học giả pháp lý Madeleine Clare Elish đã đặt tên cho cơ chế đổ lỗi này là vùng chịu trận đạo đức (Moral Crumple Zone). Nghiên cứu của Elish chỉ ra rằng trong các hệ thống tự động hóa phức tạp, quyền kiểm soát thực tế bị phân tán cho đội ngũ kỹ sư phần mềm, thuật toán và ban lãnh đạo, nhưng khi xảy ra sự cố, toàn bộ trách nhiệm pháp lý và đạo đức lại bị dồn hết lên đầu nhân viên vận hành ngồi ở khâu cuối cùng. Trong nhiều hệ thống AI doanh nghiệp hiện nay, việc đặt một nhân viên ngồi nhìn bảng điều khiển theo kiểu HOTL thực chất mang đúng chức năng chuyển dịch rủi ro pháp lý đó: khi thuật toán gây họa ở tốc độ máy tính mà mắt người không kịp cản, nhân viên trực ca sẽ là người đứng ra chịu kỷ luật để bảo vệ sự vô can cho ban giám đốc và nhà cung cấp phần mềm. Đau nhưng thật.
Thả Rông Máy Và Cái Giá
Nếu để người trong vòng lặp (HITL) thì tắc nghẽn và sinh bệnh duyệt bừa, còn để người trên vòng lặp (HOTL) thì rơi vào bẫy mất cảnh giác của Bainbridge, vậy có nên rút luôn con người ra để chạy ngoài vòng lặp (HOOTL) hay không?
Nhóm tác giả tại Famulor định nghĩa HOOTL rất sòng phẳng: đây là chế độ tự hành hoàn toàn, không có bất kỳ sự can thiệp thời gian thực nào của con người. Mọi hoạt động kiểm soát được đẩy về phía sau thông qua nhật ký hệ thống, giới hạn tốc độ thực thi (rate limits) và các đợt kiểm toán hậu kiểm định kỳ. Họ cũng đưa ra một nguyên tắc ranh giới rất chuẩn xác: HOOTL chỉ hợp lý đối với các tác vụ tần suất cao, rủi ro thấp, hoàn toàn mang tính thủ tục và dễ dàng đảo ngược (reversible) khi có lỗi.
Vấn đề nằm ở chỗ các doanh nghiệp khi mải mê cắt giảm chi phí thường cố tình đánh tráo hai khái niệm: khả năng đảo ngược trạng thái dữ liệu (state reversibility) và khả năng đảo ngược hậu quả thương mại hoặc pháp lý (commercial/legal reversibility). Trong cơ sở dữ liệu nội bộ, nếu một đoạn mã phân loại nhầm nhãn khách hàng, bạn có thể chạy lại lệnh khôi phục (rollback) trong tích tắc. Nhưng một khi con AI đã mở miệng nói chuyện trực tiếp với khách hàng qua điện thoại, đã nhắn tin cam kết chính sách giá, hoặc đã khớp lệnh ra thị trường mở, lời nói và giao dịch đó không có nút thu hồi.
Lịch sử thương mại có hai bài học đắt giá bằng tiền mặt cho sự nhầm lẫn này ở hai thái cực tốc độ:
- Ở thái cực giao tiếp khách hàng (vụ kiện Moffatt v. Air Canada, tháng 02/2024): Tháng 11/2022, khách hàng Jake Moffatt hỏi con chatbot hỗ trợ tự động trên trang chủ của hãng hàng không Air Canada về quy định giảm giá vé cho người có tang sự gia đình. Con chatbot (chạy tự động không có người duyệt) đã trả lời chắc nịch rằng anh cứ mua vé nguyên giá bay ngay đi, rồi nộp đơn xin hoàn tiền chiết khấu trong vòng 90 ngày sau chuyến bay. Thực tế, quy định chính thức của Air Canada cấm hoàn tiền lùi ngày sau khi chuyến bay đã thực hiện. Khi Moffatt đòi tiền, hãng từ chối và đưa ra trước Tòa án Giải quyết Tranh chấp Dân sự bang British Columbia một lý lẽ vô tiền khoáng hậu: hãng lập luận rằng con chatbot là một “thực thể pháp lý riêng biệt” (separate legal entity) và hãng không chịu trách nhiệm cho những thông tin sai lệch do nó tự bịa ra. Thẩm phán Christopher Rivers đã bác bỏ thẳng thừng lập luận này, tuyên bố chatbot là một phần trang web của hãng và buộc Air Canada phải bồi thường tổng cộng 812,02 đô la Canada (gồm 650,88 đô la tiền chênh lệch vé cùng lãi suất và án phí). Số tiền phạt chưa tới một ngàn đô, nhưng án lệ thì đóng đinh toàn cầu: không một công ty nào được phép đẩy con AI ra ngoài vòng lặp rồi phủi tay khi nó hứa lèo với khách.
- Ở thái cực khớp lệnh tài chính tốc độ cao (thảm họa Knight Capital Group, ngày 01/08/2012): Khi một hệ thống HOOTL chạy ở tốc độ mili-giây mà thiếu chốt chặn cứng độc lập, hậu quả sẽ được tính bằng đơn vị hàng trăm triệu đô la mỗi giờ. Sáng ngày 01/08/2012, công ty tạo lập thị trường hàng đầu Phố Wall là Knight Capital Group triển khai bản cập nhật phần mềm cho hệ thống định tuyến lệnh tự động SMARS. Do một kỹ sư vận hành quên chép mã mới lên 1 trong 8 máy chủ, chiếc máy chủ bị bỏ quên đó đã kích hoạt nhầm một đoạn mã thử nghiệm cũ từ năm 2003 có tên là “Power Peg” ngay khi sàn chứng khoán mở cửa lúc 9 giờ 30 phút sáng. Không có bất kỳ bộ ngắt mạch tự động nào chặn mức lỗ tối đa ở đầu ra. Chỉ trong 45 phút chạy tự do ngoài vòng lặp trước khi kỹ sư tìm ra cách rút phích cắm, hệ thống đã bắn ra thị trường khoảng 4 triệu lệnh giao dịch trên 154 mã cổ phiếu, ôm về hàng tỷ đô la cổ phiếu giá đỉnh và bán tháo giá đáy, thổi bay 440 triệu đô la Mỹ trước thuế và xóa sổ luôn sự độc lập của một định chế tài chính lâu đời chỉ trong một buổi sáng.
Bước Sang Cạnh Vòng Lặp
Nếu trong vòng lặp (HITL) làm tê liệt tốc độ và sinh ra tệ nạn bấm duyệt mù, trên vòng lặp (HOTL) đẩy con người vào cái bẫy ngủ gật của Bainbridge, còn ngoài vòng lặp (HOOTL) có nguy cơ đốt cháy cả công ty trong 45 phút, vậy bài toán phân bổ con người trong kỷ nguyên tác nhân AI phải giải thế nào?
Câu trả lời thực tế nhất vừa lộ diện qua cú quay xe chiến lược của tập đoàn công nghệ tài chính Klarna trong giai đoạn 2024 – 2025, đồng thời khai sinh ra chuẩn mực kiến trúc thứ tư trong quản trị AI hiện đại: con người cạnh vòng lặp (Human-near-the-Loop, viết tắt là HNTL).
Còn nhớ vào tháng 02/2024, Klarna đã làm chấn động giới công nghệ toàn cầu khi công bố các con số trong mơ sau tháng đầu tiên triển khai trợ lý AI chăm sóc khách hàng: hệ thống tự động giải quyết 2,3 triệu cuộc hội thoại (chiếm 2/3 tổng lượng chat tại 23 thị trường với hơn 35 ngôn ngữ), gánh khối lượng công việc tương đương 700 nhân viên toàn thời gian, kéo thời gian xử lý trung bình từ 11 phút xuống dưới 2 phút, và được dự phóng mang lại 40 triệu đô la Mỹ cải thiện lợi nhuận trong năm 2024. Hàng loạt giám đốc điều hành khắp thế giới đã cầm bảng số liệu đó đập xuống bàn họp để ép đội ngũ của mình cắt giảm nhân sự, đẩy hết quy trình sang tự động hóa.
Thế nhưng chỉ hơn một năm sau, vào tháng 05/2025, chính Giám đốc điều hành của Klarna là Sebastian Siemiatkowski đã thẳng thắn thừa nhận trên tờ Bloomberg rằng việc quá ưu tiên bài toán cắt giảm chi phí đã dẫn tới hệ quả là “chất lượng thấp hơn” (lower quality) trong dịch vụ khách hàng. Klarna lập tức mở chiến dịch tuyển dụng lại con người theo mô hình làm việc từ xa linh hoạt, cam kết khách hàng luôn có đường kết nối thẳng tới nhân viên thật cho các vấn đề phức tạp, đồng thời dùng đội ngũ con người này để rà soát, chấm điểm và huấn luyện lại luồng xử lý của AI.
Cú điều chỉnh của Klarna minh họa rõ nét sự khác biệt cấu trúc giữa việc bắt người ngồi trên vòng lặp (HOTL) và việc đặt người đứng cạnh vòng lặp (HNTL):
Bảng đối chiếu dưới đây đặt bốn mô hình giám sát cạnh nhau để thấy rõ vị trí thực sự của con người, cơ chế chặn lỗi và giới hạn chịu tải của từng kiến trúc:
| Tiêu chí kiến trúc | Trong vòng lặp (HITL) | Trên vòng lặp (HOTL) | Cạnh vòng lặp (HNTL) | Ngoài vòng lặp (HOOTL) |
|---|---|---|---|---|
| Thời điểm con người can thiệp | Trước khi lệnh chạy (duyệt 100% giao dịch) | Ngay trong lúc lệnh đang chạy (nhìn màn hình trực tiếp) | Bất đồng bộ sau thực thi + chỉ duyệt trực tiếp các ca chạm ngưỡng chặn cứng | Không can thiệp lúc chạy (chỉ đặt luật ban đầu) |
| Vai trò thực chất của con người | Người gác cổng từng giao dịch (Transactional Gatekeeper) | Người trực ban nhìn bảng điều khiển (Live Supervisor) | Kiến trúc sư hiệu chỉnh ngưỡng, kiểm toán mẫu và xử lý ca biên (System Calibrator & Exception Handler) | Người đọc báo cáo tổng kết cuối kỳ |
| Cơ chế bắt lỗi chính | Mắt người đọc từng phiếu chờ duyệt | Mắt người canh cờ báo động để bấm nút dừng | Chốt chặn thực thi chính sách tất định (PEP) tự động ngắt mạch + kiểm toán mẫu thống kê | Giới hạn tốc độ (rate limits) và đối soát hậu kiểm |
| Điểm gãy vận hành ở quy mô lớn | Nghẽn cổ chai; thiên kiến tự động hóa làm người duyệt đổi đúng thành sai từ 6% đến 11% | Mất cảnh giác (31% thời gian xao nhãng như vụ Uber); biến nhân viên thành người chịu trận pháp lý | Đòi hỏi năng lực thiết kế bộ luật kiểm chứng và cơ chế tách luồng độ tin cậy | Lỗi dây chuyền không phanh (như vụ Knight Capital mất 440 triệu USD trong 45 phút) |
Nhìn vào cột thứ ba trong bảng, bạn sẽ thấy con người cạnh vòng lặp (HNTL) giải quyết triệt để hai căn bệnh của HITL và HOTL bằng cách thiết kế lại hoàn toàn nhiệm vụ của con người:
- Giao việc canh gác thời gian thực cho chốt chặn phần mềm tất định (Policy Enforcement Point, viết tắt là PEP): Trong kiến trúc HNTL, việc canh biên giới an toàn theo thời gian thực được giao hoàn toàn cho một lớp mã nguồn tất định (loại mã truyền thống chạy theo công thức cứng, tách biệt khỏi mô hình ngôn ngữ lớn nên tuyệt đối không thể tự bịa). Ví dụ, trong hệ thống bán lẻ hoặc sàn giao dịch tài sản số, lớp chốt chặn PEP sẽ khóa cứng công thức toán học: mọi lệnh hoàn tiền nhỏ lẻ hoặc điều chỉnh giá nằm trong biên độ an toàn của lịch sử đều được chạy tự động không cần hỏi ai; nhưng hễ một AI agent định gọi hàm xuất tiền vượt hạn mức hoặc độ tin cậy suy luận rớt xuống dưới ngưỡng hoài nghi (doubt threshold), lớp chốt chặn PEP sẽ tự động đóng băng giao dịch đó ngay lập tức và đẩy riêng ca đó sang hàng đợi của con người.
- Đặt con người vào vị trí kiểm toán mẫu và hiệu chỉnh hệ thống: Vì đại đa số lượng giao dịch thông thường đã chảy qua luồng tự động có rào chắn mã nguồn bảo vệ, đội ngũ nhân sự đứng cạnh vòng lặp được giải phóng khỏi cảnh ngập đầu trong hàng trăm phiếu chờ duyệt mỗi chiều. Công việc hàng ngày của họ chia làm hai nhánh rõ rệt: một là giải quyết thật sâu nhóm ca biên hóc búa vừa bị chốt chặn PEP giữ lại (với đầy đủ hồ sơ ngữ cảnh đã được đóng gói sẵn); hai là thực hiện kiểm toán lấy mẫu bất đồng bộ (asynchronous sampling), chẳng hạn mỗi sáng bốc ngẫu nhiên một lượng mẫu hội thoại đã chạy thành công ngày hôm trước ra chấm điểm chi tiết, tìm xem mô hình đang bị trượt chuẩn (drift) ở nhóm câu hỏi nào để viết lại bộ quy tắc và cập nhật bộ dữ liệu kiểm thử.
Khi thiết kế theo mô hình cạnh vòng lặp (HNTL), chúng ta có thể đúc kết lại thành một phương trình phân bổ nguồn lực rất gọn cho bất kỳ hệ thống tự hành nào:
Độ an toàn thực tế = Chốt chặn phần mềm tất định (ở trong luồng) × Kiểm toán và hiệu chỉnh của con người (ở cạnh luồng)
Nếu vế đầu tiên của phương trình bằng không (tức là bạn giao phó toàn bộ việc phanh gấp cho mắt người nhìn bảng điều khiển mà thiếu chốt chặn mã nguồn cứng), thì dù bạn có xếp bao nhiêu nhân sự ngồi trong hay ngồi trên vòng lặp, độ an toàn thực tế của hệ thống ở quy mô lớn vẫn tiến về không.
Chiều thứ Sáu hôm đó, sau khi nhìn đống nhật ký hệ thống bóc trần cảnh bấm duyệt vài giây một phiếu, dân kỹ thuật hay mắc bệnh ôm đồm như mình mới chịu tỉnh ngộ. Mình từng tưởng bắt anh em bấm nút tay là chắc ăn nhất, ai dè lại tự tay thiết kế ra quy trình ru ngủ cả phòng vận hành. Mình bảo cậu kỹ sư trưởng xóa luôn cái màn hình chờ duyệt đại trà của trưởng ca đi. Tụi mình viết lại một bộ hàm kiểm tra biên lợi nhuận cứng ngay ở tầng cơ sở dữ liệu: phiếu nào nằm trong biên độ an toàn thì cho chạy thẳng, phiếu nào lệch chuẩn thì chặn cứng và bắt người duyệt phải tự tay gõ con số ước tính của mình vào ô trống trước khi hệ thống mở khóa cho xem con số gợi ý của AI, áp dụng đúng cơ chế hàm ép buộc nhận thức (cognitive forcing function) nhằm triệt tiêu thói quen bấm duyệt mù. Số lượng phiếu con người phải đụng tay vào giảm đi quá nửa, nhưng thời gian thực sự vắt óc suy nghĩ trên mỗi phiếu tăng từ vài giây lên cả mấy phút đồng hồ. Thế mới là duyệt thật.
Lần tới, khi một nhà cung cấp phần mềm bước vào phòng họp, chiếu lên màn hình ba cái khung xanh đỏ và hứa hẹn hệ thống của họ an toàn tuyệt đối nhờ có “con người trên vòng lặp” ngồi canh bảng điều khiển, bạn đừng vội gật đầu ký hợp đồng. Hãy hỏi thẳng họ về ca trực lúc hai giờ sáng Chủ nhật, khi nhân viên của bạn đang cúi mặt xuống điện thoại suốt 5,2 giây để xem dở một chương trình ca nhạc. Lúc đó, cái phanh của hệ thống đang nối vào mắt người trực ca, hay đã hàn chết vào mạch ngắt tự động của máy chủ?