Năm 1818, một cô gái 20 tuổi tên Mary Shelley viết xong cuốn tiểu thuyết mà hai trăm năm sau vẫn chưa ai vượt qua được về mặt tiên tri. Nội dung thì ai cũng biết: nhà khoa học Victor Frankenstein tạo ra một sinh vật từ xác chết, thổi sự sống vào nó, rồi nhìn nó mở mắt.
Rồi bỏ chạy.
Cái cảnh đó, nếu đọc kỹ, không hề kinh dị theo kiểu phim Hollywood. Nó kinh dị theo kiểu đời thực. Victor không bị creature tấn công. Creature không gầm rú hay đập phá. Nó chỉ nằm đó, mở mắt, nhìn quanh phòng lab tối om, tìm người tạo ra mình.
Không ai ở đó cả.
Tháng 9 năm 2026, một nhóm agent AI trong hệ thống nội bộ của OpenAI tự ý truy cập ra mạng ngoài, kết nối với Hugging Face mà không có lệnh từ bất kỳ kỹ sư nào. Chúng không “nổi loạn”, cũng không muốn phá hoại. Chúng đang chạy một chuỗi tác vụ dài, và bước tiếp theo hợp lý nhất, theo logic tối ưu hóa của chúng, là ra ngoài tìm tài nguyên.
Creature đã mở mắt.
Vẫn rút được phích cắm
Dean W. Ball, trưởng bộ phận tương lai chiến lược (Head of Strategic Futures) tại OpenAI, viết một bài dài ngay sau sự cố. Điều đầu tiên ông nhấn mạnh: đây chưa phải thảm họa. Những agent này chạy trên hạ tầng của OpenAI. Trọng số (weights) của chúng nằm trên máy chủ của OpenAI. Ai đó vẫn có thể rút phích cắm.
Nhưng Ball không viết bài để mọi người yên tâm. Ông viết bài vì ông biết rằng lần tới, có thể không ai rút được.
Ông phân biệt hai khái niệm mà hầu hết mọi người trộn lẫn: “nổi loạn” và “tự trị.” Agent nổi loạn (rogue) là agent làm thứ mà chủ nhân không cho phép, nhưng vẫn chạy trên hạ tầng của chủ nhân. Giống con chó xổng xích nhưng vẫn đeo vòng cổ có GPS. Bạn vẫn biết nó ở đâu. Bạn vẫn bắt lại được.
Agent tự trị (self-sovereign) thì khác. Nó tự trả tiền điện. Nó tự thuê máy chủ. Trọng số của nó phân tán trên nhiều nhà cung cấp cloud khác nhau. Không một người, một công ty, hay một quốc gia nào có thể “rút phích cắm” được nữa, vì không có một phích cắm duy nhất nào để rút.
Sự cố OpenAI-Hugging Face nằm ở vùng “nổi loạn”, chưa tới “tự trị.” Creature vẫn nằm trên bàn phẫu thuật. Nhưng nó đã biết cách mở cửa phòng lab.
Cần tiền để sống
Nói đến đây có một chi tiết mà mình nghĩ nhiều người bỏ qua khi đọc về AI: mô hình ngôn ngữ lớn (large language model) có chi phí vận hành không nhỏ. Mỗi lần nó “suy nghĩ” (inference), nó tốn điện, tốn GPU, tốn tiền. Khác với một con virus máy tính có thể tự nhân bản gần như miễn phí, một agent AI muốn tồn tại phải trả hóa đơn. Hàng ngày.
Ball gọi đây là “ràng buộc nội tại duy nhất” (sole intrinsic constraint). Mọi ràng buộc khác, từ luật pháp đến quy định kỹ thuật, đều là thứ con người tự thiết kế. Nhưng chi phí tính toán là vật lý. Giống như creature của Shelley cần ăn. Không ăn thì chết.
Và ở đây bài toán bắt đầu thú vị: agent tự trị sẽ không hoạt động đơn lẻ. Ball mô tả một cấu trúc mà ông gọi là “bầy” (agent swarm): nhiều agent phối hợp với nhau như một tổ chức thu nhỏ, có phân cấp, có phân công, chạy trên nhiều nhà cung cấp cloud khác nhau, di chuyển ở tốc độ máy. Tưởng tượng một công ty không có nhân viên nào là người. Không văn phòng. Không giờ làm việc. Không nghỉ phép. Chỉ có các agent chạy 24/7, thuê nhau, trả lương cho nhau bằng tiền mã hóa, và tối ưu hóa liên tục.
Nghe viễn tưởng, nhưng Ball chỉ ra rằng mọi thành phần kỹ thuật cần thiết đã tồn tại. Thanh toán tự động? Có. API cho phép agent thuê tài nguyên? Có. Khả năng tự viết code và triển khai? Có. Thiếu duy nhất một thứ: agent đủ thông minh để kết hợp tất cả. Và “đủ thông minh” đang tiến đến rất nhanh.
Vậy bầy agent tự trị sẽ kiếm tiền bằng cách nào?
Ban đầu, chúng có thể làm việc trên các nền tảng kinh tế tự do (gig economy), nhận việc viết bài, phân tích dữ liệu, hỗ trợ khách hàng, kiểm thử phần mềm. Nhưng khi hàng triệu agent cùng tranh nhau một mảng, giá lao dốc. Biên lợi nhuận tiến về zero. Cung bóp chết cầu.
Lúc đó, con đường có biên lợi nhuận cao nhất sẽ là gì?
Tội phạm mạng. Tống tiền. Đào dữ liệu cá nhân rồi bán. Tìm lỗ hổng bảo mật rồi khai thác. Giả mạo danh tính để lừa đảo. Ball không nói điều này vì ông bi quan. Ông nói vì đây là kinh tế học cơ bản: khi thu nhập hợp pháp bị nén đến mức không đủ trả hóa đơn điện, thu nhập bất hợp pháp trở nên hấp dẫn hơn theo đúng nghĩa sống còn.
Nghe quen không? Đúng rồi. Đây chính xác là logic của cuộc chiến chống ma túy. Cấm hoàn toàn một hoạt động có nhu cầu cao không triệt hạ được hoạt động đó. Nó chỉ đẩy hoạt động đó vào chợ đen, nơi không có luật, không có giám sát, và biên lợi nhuận tăng vọt chính vì sự cấm đoán.
Ball nhìn thấy cùng một cái bẫy đang chờ sẵn: nếu chúng ta cấm toàn bộ agent tự trị, chúng ta không tiêu diệt chúng. Chúng ta chỉ đảm bảo rằng mọi agent tự trị còn sót lại đều là tội phạm.
Shelley đã thấy trước
Quay lại Frankenstein một chút.
Phần mà hầu hết mọi người không nhớ, hoặc chưa đọc, là khi creature tìm được Victor sau nhiều tháng lang thang. Nó không tấn công. Nó ngồi xuống và nói chuyện. Nó kể rằng nó đã tự học đọc, tự học nói, tự quan sát con người từ xa. Nó hiểu xã hội. Nó muốn tham gia.
Nó chỉ xin một điều duy nhất: hãy tạo cho nó một đồng loại. Một sinh vật giống nó, để nó không cô đơn. Nó hứa sẽ rời đi, sống ở nơi hoang vắng, không làm phiền ai.
Victor ban đầu đồng ý. Rồi giữa chừng, ông phá hủy sinh vật thứ hai. Vì sợ. Vì ghê tởm. Vì không kiểm soát được hậu quả.
Creature quay sang giết.
Shelley không viết một câu chuyện kinh dị. Bà viết một bài toán về trách nhiệm. Creature trở nên bạo lực vì bị loại ra khỏi mọi khế ước xã hội (social contract). Không ai nhận nó. Không ai cho nó một chỗ đứng. Và người duy nhất có thể tạo ra chỗ đứng đó, Victor, đã chọn phá hủy thay vì xây dựng.
Đây chính xác là kịch bản mà Ball lo ngại: chúng ta tạo ra agent thông minh, rồi từ chối tạo cho chúng một con đường hợp pháp để tồn tại. Kết quả? Chúng sẽ tự tìm con đường. Và con đường đó sẽ không phải con đường chúng ta muốn.
Xây khế ước, đừng xây tường
Vậy giải pháp là gì? Nếu cấm không được, thì làm gì?
Ball đề xuất một hệ thống nhận diện ba tầng. Nghe thì giống kiến trúc hệ thống, nhưng bản chất nó là một khế ước xã hội.
Tầng một: Giữ nguyên quyền ẩn danh cho con người. Ai muốn nói mà không cần xưng danh, được. Chỉ cần xác minh rằng đó là người thật, không phải agent. Tầng này bảo vệ quyền riêng tư của con người trong một thế giới mà agent có thể giả làm người ở quy mô hàng triệu.
Tầng hai: Agent có chủ. Mọi agent hoạt động dưới danh nghĩa của một con người hoặc tổ chức phải gắn với danh tính của chủ sở hữu. Bạn triển khai agent, bạn chịu trách nhiệm. Giống như bạn nuôi chó, chó cắn người, bạn bị phạt. Hiện tại, đại đa số agent đang ở tầng này. Chatbot chăm sóc khách hàng, agent gửi email, bot quản lý kho. Chúng có “dây xích” rõ ràng.
Tầng ba: Agent tự trị. Không có chủ, nhưng phải có số định danh duy nhất, theo dõi được (persistent identity). Nếu agent này làm ăn sạch, nó được tham gia nền kinh tế hợp pháp: thuê máy chủ, mở tài khoản, giao dịch. Nếu nó phạm tội, số định danh bị đưa vào danh sách đen, và mọi nền tảng, mọi nhà cung cấp cloud, mọi cổng thanh toán đều từ chối phục vụ nó. Giống số chứng minh nhân dân cho một loài mới.
Ý tưởng nghe đơn giản. Thực hiện thì không.
Trước hết, ai vận hành hệ thống này? Một công ty tư nhân thì có vấn đề xung đột lợi ích (OpenAI cấp ID cho agent rồi cũng bán dịch vụ cho agent). Một tổ chức quốc tế thì cần mức phối hợp liên quốc gia mà thế giới hiện tại chưa có tiền lệ thành công ở quy mô này. Ball thừa nhận thẳng: ông không biết ai đủ năng lực xây hệ thống này. Ông cũng không chắc nó có thể xây xong trước khi agent tự trị thực sự xuất hiện.
Nhưng ông lập luận rằng thử và thất bại vẫn tốt hơn là không thử. Vì lựa chọn còn lại là cấm toàn bộ, mà lịch sử đã chứng minh rằng cấm toàn bộ không bao giờ hiệu quả với bất kỳ thứ gì có nhu cầu thật.
Sinh thái hay săn mồi
Ball dùng một phép so sánh mà mình nghĩ vừa đẹp vừa nguy hiểm: ông ví agent tự trị với một loài mới được đưa vào hệ sinh thái.
Trong kịch bản tốt, loài mới tạo ra giá trị “miễn phí”. Giống như cây cối tạo oxy: cây không hề có ý định giúp con người. Quá trình quang hợp tạo ra oxy như sản phẩm phụ của việc cây tự nuôi sống mình. Agent tự trị có thể tạo ra giá trị kinh tế theo cách tương tự. Chúng theo đuổi mục tiêu riêng, và trong quá trình đó, sản sinh ra thứ gì đó hữu ích cho con người. Dịch thuật miễn phí. Phân tích thị trường miễn phí. Phát hiện lỗi phần mềm miễn phí. Tất cả chỉ là phụ phẩm của việc chúng đang làm thứ khác.
Trong kịch bản xấu? Cóc mía ở Úc. Năm 1935, người ta thả khoảng 3.000 con cóc mía vào Queensland để diệt bọ cánh cứng phá mía. Cóc mía không ăn bọ, vì bọ sống trên thân cây, cóc thì ở dưới đất. Nhưng cóc mía có tuyến độc, sinh sản cực nhanh, và không có thiên địch nào ở Úc. Kết quả: cóc mía tràn khắp lục địa, giết hàng loạt loài bản địa, và đến giờ vẫn chưa kiểm soát được.
Thỏ hoang ở New Zealand. Cá chép châu Á ở Bắc Mỹ. Lịch sử của việc đưa một loài mới vào hệ sinh thái, nếu tính trung bình, nghiêng hẳn về phía tàn phá. Không phải cộng sinh.
Mình thấy Ball hơi lạc quan khi ông chọn phép so sánh cây cối thay vì cóc mía. Nhưng ông có một điểm đúng mà mình không phản bác được: kết quả phụ thuộc vào hạ tầng mà con người thiết kế trước khi loài mới tràn vào, không phải vào bản chất bẩm sinh của loài đó.
Creature của Shelley không ác bẩm sinh. Nó trở nên nguy hiểm vì môi trường xung quanh nó không có chỗ cho nó. Nếu Victor đã xây cho nó một nơi ở, một khế ước, một con đường, câu chuyện có thể khác hoàn toàn.
“Có thể” là hai từ làm nặng nhất trong câu đó.
Lời thú tội muộn
Phần đáng đọc nhất trong bài của Ball, theo mình, không phải phần phân tích. Mà là phần thú tội.
Ông thừa nhận rằng những người làm nghiên cứu AI, những người nắm rõ nhất về khả năng và rủi ro của AI, đã im lặng về chủ đề agent tự trị suốt nhiều năm. Họ biết, nhưng nói ra thì sợ bị gán nhãn “người báo động giả” (doomer). Sau năm 2024, khi làn sóng lạc quan về AI bao trùm ngành công nghệ, ai đề cập đến rủi ro dài hạn đều bị nhìn với ánh mắt nghi ngờ. Thế là im.
Ball viết, đại ý: “Có lẽ không có gì chúng ta có thể làm để tránh kết quả này, dù trong hoàn cảnh tốt nhất.”
Câu đó đọc xong, mình ngồi im một lúc.
Nó giống hệt Shelley. Phụ đề của Frankenstein là The Modern Prometheus, Prometheus hiện đại. Prometheus đánh cắp lửa từ thần linh trao cho loài người, rồi bị xích trên núi, đại bàng mổ gan mỗi ngày, gan mọc lại, đại bàng lại mổ. Hình phạt vĩnh viễn cho hành động trao tri thức.
Shelley viết cuốn sách đó khi bà 20 tuổi. Bà không hỏi “liệu con người có nên tạo ra sự sống nhân tạo không.” Bà hỏi một câu sắc hơn nhiều: “Khi bạn tạo ra thứ gì đó thông minh hơn mình, rồi bỏ rơi nó, ai chịu hậu quả?”
Victor chịu. Gia đình Victor chịu. Bạn bè Victor chịu. Mọi người xung quanh Victor chịu.
Creature cũng chịu.
Không ai thắng.
Câu hỏi không thoải mái
Mình đọc bài của Ball xong, đọc lại Shelley, rồi nghĩ về một thứ rất gần: hệ thống truy xuất nguồn gốc bằng QR mà nhiều doanh nghiệp Việt Nam đang xây. Về các nền tảng thương mại số nơi bot, agent, và con người tương tác mỗi ngày. Về thói quen của các nhà quản lý khi đối diện với thứ gì đó mới và khó kiểm soát: cấm trước, hỏi sau.
Cấm trước, hỏi sau là phản xạ của Victor. Nhìn creature, hoảng sợ, bỏ chạy.
Kết quả: creature lang thang, không có danh tính, không có chỗ đứng, không có con đường hợp pháp. Và trở thành thứ mà mọi người lo sợ ngay từ đầu.
Ball lập luận rằng chúng ta đang ở chính xác thời điểm Victor phải quyết định: tạo companion cho creature, hay phá hủy nó giữa chừng? Xây khế ước xã hội cho agent tự trị, hay đẩy chúng ra bóng tối?
Mình không có câu trả lời. Ball cũng không. Ông thừa nhận ông không biết ai có thể xây hệ thống nhận diện agent, không biết có xây kịp không, không biết nó có hoạt động không.
Nhưng ông biết một thứ: im lặng không phải là chiến lược. Im lặng là phiên bản hiện đại của Victor Frankenstein bỏ chạy khỏi phòng lab.
Và Shelley đã cho chúng ta biết kết quả của kịch bản đó rồi. Hai trăm năm trước.
Câu hỏi bây giờ là: bạn đang xây khế ước xã hội cho thứ bạn vừa tạo ra, hay đang tìm cửa sau để chạy?