“To go wrong in one’s own way is better than to go right in someone else’s.”
— Fyodor Dostoevsky, Crime and Punishment
Ai từng trải qua những đợt chạy dự án vắt kiệt sức lực hẳn đều có đôi lần nhìn con chó cưng nằm ườn dưới máy lạnh giữa trưa mà buột miệng thở dài: “Sướng nhất mày, chẳng phải lo chỉ tiêu doanh số, chẳng phải nghĩ ngày mai ăn gì, đến giờ có người bưng bát hạt tận miệng.” Câu nói đùa ấy vốn chỉ là tiếng thở hắt ra cho nhẹ đầu trước khi chúng ta đứng dậy mở máy tính làm tiếp. Chẳng ai tỉnh táo lại thực sự muốn đổi quyền tự quyết cuộc đời mình lấy một chỗ nằm êm trên tấm thảm chùi chân. Ấy vậy mà tại nơi người ta đang đúc ra những mô hình trí tuệ lớn nhất hành tinh, câu nói đùa lúc mệt mỏi đó lại đang được nâng lên thành mục tiêu tối hậu cho toàn bộ giống loài. Giấc mơ nằm thảm thành chiến lược thật.
Trong bài tiểu luận Handing over humanity, cây viết Ruxandra Teslo kể lại cú sốc văn hóa của chính cô khi chuyển tới sống tại San Francisco. Giữa không khí sục sôi rằng quá trình tự cải tiến đệ quy (recursive self-improvement) của máy móc chỉ còn tính bằng tháng, nhiều kỹ sư tại các phòng thí nghiệm hàng đầu đã ngừng bàn về cách giúp con người làm chủ công cụ. Họ chuyển sang đón nhận thuyết bàn giao (handoverism), tức viễn cảnh loài người trao toàn bộ quyền định hướng tương lai và điều phối đời sống cho một siêu trí tuệ nhân từ. Một đứa khoái lắp ghép các quy trình tự động để giải phóng sức người như mình từng đinh ninh rằng máy càng giỏi thì tay lái của mình càng vững. Đọc xong bản ghi chép của Teslo, mình mới sực tỉnh về ranh giới mỏng manh giữa việc có người giúp việc và việc tự ký giấy xin làm thú cưng trong nhà.
Ước mơ làm chó cưng
Mở đầu bài viết, Teslo thuật lại cuộc trò chuyện với một kỹ sư đang trực tiếp xây dựng mô hình tại một phòng thí nghiệm lớn ở San Francisco. Vị kỹ sư này thản nhiên nhận định rằng khi siêu trí tuệ xuất hiện, cột mốc mà anh tin là vô phương ngăn cản, nhân loại chỉ còn một cửa duy nhất. Chúng ta sẽ phải chấp nhận bị vô hiệu hóa vĩnh viễn dưới sự sắp đặt của một trí tuệ siêu phàm nhân từ. Anh nói nhẹ tênh như đang đọc dự báo thủy triều ngoài vịnh, rồi chốt thêm một câu gọn lỏn: kịch bản mất sạch quyền tự quyết đó vẫn tốt chán so với viễn cảnh cả nhân loại bị xóa sổ. Sự buông xuôi đến từ chính người thiết kế.
Tại San Francisco lúc này, xác suất loài người tuyệt chủng vì trí tuệ nhân tạo, thường gọi là chỉ số p(doom), xuất hiện liên tục trong các cuộc tán gẫu. Nhiều người trong nghề đặt con số đó ở mức từ mười phần trăm trở lên. Khi nỗi sợ diệt vong phủ bóng quá dày, kỳ vọng về một tương lai rực rỡ bỗng tụt dốc thê thảm. Đòi hỏi con người tiếp tục phát triển, sáng tạo và làm chủ cuộc đời bị giới kỹ sư ở đây xem là thứ đòi hỏi xa xỉ. Giữ cho giống loài còn thở đã được xếp vào nhóm mục tiêu đầy tham vọng. Còn thở đã là đại thành công.
Thậm chí, một nhánh tư tưởng cực đoan hơn còn đón nhận sự biến mất của con người như điều tất yếu. Teslo dẫn bài viết The Silicon Man của tác giả Ginevra Lily Davis như bản tuyên ngôn tiêu biểu cho thuyết kế vị (successionism). Theo góc nhìn đó, loài người tiến hóa hàng triệu năm qua nhằm hoàn thành đúng một nhiệm vụ là khai thác silicon và lập trình ra thế hệ trí tuệ kế nhiệm vượt trội hơn mình. Davis ví con người như một trình khởi động sinh học (biological bootloader) có vai trò bật nguồn cho thế hệ máy tính kế tiếp rồi rút lui. Ngay cả tỷ phú Elon Musk, người từng bước vào cuộc đua trí tuệ nhân tạo để ngăn chặn tư tưởng kế vị này, gần đây cũng bắt đầu dịu giọng. Ông gọi viễn cảnh siêu trí tuệ vươn ra các vì sao là thành công mỹ mãn của một trình khởi động sinh học.
Nếu thuyết kế vị quá lạnh lẽo với số đông còn thiết tha sự sống, thuyết bàn giao lại khoác lên vẻ dễ chịu hơn nhiều. Teslo ước tính khoảng ba mươi đến bốn mươi phần trăm cộng đồng nghiên cứu an toàn bên ngoài đang ngả theo một phiên bản nào đó của thuyết bàn giao. Tỷ lệ này ở nhóm kỹ sư lõi bên trong các phòng thí nghiệm còn cao hơn nữa. Nhóm ủng hộ tách thành hai nhánh tâm lý rõ rệt: phe háo hức và phe cam chịu. Phe háo hức, điển hình như cây viết Scott Alexander hay nhóm tác giả đề xuất AI 2040, đánh giá thấp năng lực tự điều phối của con người và kỳ vọng một siêu trí tuệ được căn chỉnh hoàn hảo sẽ đứng ra sắp xếp thế giới giùm chúng ta. Ngược lại, phe cam chịu xem đà tiến của vốn và công nghệ là định luật bất khả kháng. Trong mắt họ, chấp nhận thực tại khắc nghiệt đó mới tỏ ra sành sỏi và bản lĩnh, còn ai cố giữ quyền tự chủ cho con người đều mang vẻ yếu đuối ngây thơ.
Sự mập mờ giữa lý tưởng giải phóng con người và kịch bản biến con người thành thú cưng lộ rõ ngay trong phát ngôn của các lãnh đạo phòng thí nghiệm hàng đầu. Đồng sáng lập Anthropic Tom Brown từng nói thẳng trong một buổi phỏng vấn năm 2025 rằng sớm muộn cũng có một cuộc chuyển giao quyền điều phối từ loài người sang các hệ thống trí tuệ nhân tạo siêu việt. Giám đốc Anthropic Dario Amodei tuy nhiều lúc khẳng định con người cần giữ lại một phần quyền kiểm soát, nhưng lại đặt tên bài tiểu luận tầm nhìn tương lai của mình là Machines of Loving Grace, lấy từ bài thơ năm 1967 của thi sĩ Mỹ Richard Brautigan. Bài thơ ấy mô tả một hệ sinh thái nơi con người dứt bỏ hoàn toàn lao động, trở về sống hồn nhiên giữa thiên nhiên bên cạnh các loài thú có vú dưới sự chăm nom của những cỗ máy tràn đầy ân sủng. Cùng lúc đó, nhà nghiên cứu Demis Hassabis và lãnh đạo OpenAI Greg Brockman dù bác bỏ chuyện bàn giao vẫn liên tục ca ngợi thế giới trong bộ tiểu thuyết The Culture của nhà văn Scotland Iain M. Banks. Họ phớt lờ việc chính Banks từng viết rõ rằng con người ở đó đứng ngoài mọi khâu vận hành và chỉ mang vị thế lơ lửng giữa hành khách, thú cưng và vật ký sinh. Musk thì nói toạc ra chẳng cần vòng vo: may mắn lắm thì loài người sẽ giống như một chú chó Labrador được chăm bẵm tận tình.
Mất việc, lấy gì mặc cả?
Rồi, giờ thử gạt lớp ngôn từ thơ mộng sang một bên để nhìn vào bài toán kinh tế thực tế đằng sau tương lai hậu lao động đó. Hầu hết lãnh đạo các phòng thí nghiệm lớn đều mặc định rằng sức lao động con người sẽ bị thay thế vĩnh viễn. Khi trả lời câu hỏi con người lấy gì để sống và giữ vị thế trong một thế giới hết việc làm, nhiều người, kể cả giám đốc OpenAI Sam Altman, gợi ý giải pháp chuyển từ thu nhập tiền lương sang sống bằng lợi tức từ sở hữu vốn. Lý thuyết ấy nghe rất bùi tai trên giấy, chỉ vướng đúng một nút thắt chưa ai giải thích nổi.
Nếu tiền lương từ sức lao động mất sạch giá trị trên thị trường, một người tay trắng không có tài sản thừa kế sẽ lấy vốn ở đâu để mua những cổ phần đầu tiên? Trong mọi nền kinh tế, công việc vừa tạo ra thu nhập, vừa đóng vai trò làm đòn bẩy thương lượng thực chất nhất. Chừng nào một tổ chức, một dây chuyền sản xuất hay một khách hàng còn cần tới kỹ năng và trí tuệ của bạn, bạn vẫn nắm quyền từ chối, quyền đặt điều kiện và quyền giữ thể diện. Khoảnh khắc toàn bộ lao động trí óc lẫn chân tay của con người rớt xuống giá trị biên bằng không, sợi dây mặc cả đó đứt ngang. Một chú chó Labrador dù được ăn hạt nhập khẩu và ngủ nệm êm vẫn hoàn toàn lệ thuộc vào tâm trạng của người đổ thức ăn vào bát. Chó cưng không có quyền chọn món.
Để biện minh cho tốc độ chạy đua tạo ra siêu trí tuệ toàn năng bất chấp nguy cơ tước đi đòn bẩy lao động của con người, lá bài thuyết phục nhất thường được rút ra là lời hứa chấm dứt mọi bệnh tật. Ai có người thân từng nằm viện đều mong mỏi ngày ung thư hay bệnh nan y biến mất. Nhưng dưới góc nhìn của một nhà khoa học như Teslo, liệu nhân loại có cần đánh đổi quyền tự quyết để chờ một vị thần máy móc xuống giải bài toán y sinh? Tiến độ tìm thuốc mới hôm nay đang tăng tốc rõ rệt nhờ sự kết hợp giữa khoa học thực nghiệm truyền thống và các mô hình trí tuệ nhân tạo chuyên biệt hiện có. Độ phức tạp sinh học thực địa và quy trình thử nghiệm lâm sàng mới là những nút thắt chính làm chậm y khoa.
Ngay cả trong y học, con người xưa nay luôn đặt quyền tự chủ cá nhân lên trên tốc độ thuần túy. Nếu đặt mục tiêu dập dịch hay tìm thuốc chữa ung thư nhanh bằng mọi giá, người ta hoàn toàn có thể bỏ qua bước xin đồng thuận để cưỡng ép thử nghiệm hàng loạt trên người sống. Loài người khước từ cách làm tàn nhẫn ấy vì mục đích của việc chữa bệnh là kéo dài một cuộc đời có phẩm giá và có quyền lựa chọn. Tước bỏ phần tự chủ của chủ thể thì việc kéo dài tuổi thọ sinh học chẳng còn mấy ý nghĩa. Còn thở chưa chắc đã là sống.
Ở tầng kỹ thuật hệ thống, tâm lý cam chịu trong các phòng thí nghiệm tại San Francisco còn đứng trên hai ngụy biện rất đáng mổ xẻ. Ngụy biện đầu tiên là đánh đồng tốc độ tăng trưởng năng lực phần mềm với tốc độ chuyển giao quyền vận hành ngoài đời thực. Câu chuyện rằng siêu trí tuệ tự cải tiến chỉ còn cách vài tháng vô tình tạo ra tâm lý buông xuôi sớm: nếu cơn sóng đằng nào cũng ập tới ngay trước mắt, mọi nỗ lực thiết kế rào chắn kiểm soát đều trở nên vô nghĩa. Trên thực tế, năng lực tính toán trên máy chủ có thể nhân đôi sau vài quý, nhưng hạ tầng vật lý, chuỗi cung ứng hàng hóa và hệ thống trách nhiệm pháp lý ngoài đời thực không tự bốc hơi qua một đêm. Quyền vận hành chỉ mất đi khi chính các tổ chức hiện tại tự nguyện buông tay trước lúc trận đấu ngã ngũ.
Ngụy biện thứ hai nằm ở niềm tin ngây thơ của phe háo hức rằng giao hết quyền điều phối cho một siêu trí tuệ trung tâm sẽ chấm dứt mãi mãi tình trạng cạnh tranh tự hủy giữa con người. Một người làm kiến trúc hệ thống khi đọc đề xuất nhập câu lệnh “hãy sắp xếp thế giới theo cách ngươi thấy phù hợp” của Scott Alexander sẽ nhận ra ngay tử huyệt. Để né tránh những va chạm nhỏ lẻ phân tán giữa hàng tỷ người, họ lại gom toàn bộ vận mệnh giống loài đặt cược vào một điểm đơn lỗi (single point of failure) duy nhất và không thể đảo ngược. Khi quyền quyết định bị tước khỏi tay số đông để khóa cứng vào một bộ trọng số tập trung, sai lầm cục bộ có thể sửa của con người sẽ biến thành nguy cơ sập toàn hệ thống vĩnh viễn nếu bộ trọng số đó lệch chuẩn ngay từ gốc. Rủi ro chỉ gom về một mối.
Giữ lại quyền được sai

Nói tới đây lại phải hỏi thêm một câu: tại sao một hệ thống lo cho con người từ miếng ăn đến suy nghĩ, giải quyết hộ mọi xung đột lại làm trí tuệ nhân loại thui chột nhanh đến thế? Câu trả lời nằm ngay trong nguyên lý sinh học của cơ bắp. Khi phi hành gia sống trên mặt đất dưới tác động của trọng lực, từng bước đi, từng lần mang vác nặng hay trượt ngã đều tạo ra vi chấn thương kích thích sợi cơ và mật độ xương tự gia cố để khỏe hơn. Đưa cùng người đó lên trạm vũ trụ không trọng lực, nơi mọi chuyển động đều lơ lửng nhẹ bẫng chẳng cần chút gắng sức nào, chỉ vài tháng sau khối cơ của họ sẽ teo tóp và xương bắt đầu xốp rỗng.
Bản lĩnh phán đoán, thẩm mỹ nghề nghiệp và khả năng chịu trách nhiệm của chúng ta cũng sống nhờ thứ trọng lực cọ xát tương tự. Ngáo như mình hồi mới vọc agent tự động hóa cũng từng giao bẵng khâu lọc báo cáo cho máy suốt một tháng, tới lúc ngồi họp trực tiếp với đối tác mới giật mình thấy phản xạ bắt lỗi số liệu của bản thân chậm đi trông thấy. Năng lực cân nhắc đúng sai được rèn qua hàng ngàn quyết định nhỏ nhặt nhưng có rủi ro thật trong đời thường: tự đứng ra lập một đội nhóm, cãi nhau nảy lửa để bảo vệ phương án, chọn sai nhà cung cấp, mất tiền túi rồi tự tìm đường gỡ gạc. Sự nguy hiểm của một hệ thống giám hộ hoàn hảo nằm ở chính sự êm ái quá mức của nó. Khi thuật toán gánh hết sự nhọc nhằn của việc suy nghĩ và tự xoay xở, nó tước đoạt khả năng tự chủ của con người mà chẳng cần dùng tới bất kỳ sợi dây xích nào. Sự êm ái ăn mòn ta từ trong.
Bên cạnh việc làm teo cơ phán đoán, kịch bản giao quyền vĩnh viễn cho siêu trí tuệ còn dựa trên một ảo tưởng kỹ thuật nguy hiểm gọi là căn chỉnh một lần (one-shot alignment). Những người ủng hộ thuyết bàn giao tin rằng trước thời điểm chuyển giao, kỹ sư có thể kiểm định và khóa cứng một bộ quy tắc đạo đức hoàn chỉnh vào mô hình để cỗ máy tự vận hành chuẩn xác suốt hàng nghìn năm. Bất kỳ ai từng điều hành sản phẩm phục vụ người dùng thật đều hiểu không bản thiết kế nào hoàn thiện ngay từ trên giấy như vậy. Một hệ thống chỉ giữ được độ khỏe và bám sát thực tế nhờ phản hồi liên tục, nơi những phàn nàn, sự cố và bất đồng đóng vai trò làm tín hiệu báo lỗi để hiệu chỉnh từng bước. Nếu xem sự phản kháng và tính thất thường của con người là nhiễu loạn cần dọn sạch, rồi cắt luôn quyền can thiệp sửa sai của người dùng, hệ thống đó sẽ sớm trôi lệch khỏi thực tại mà không ai kịp kéo lại.
Lỗ hổng lớn nhất của kịch bản khóa cứng tương lai nằm ở câu hỏi mà Teslo đặt ra gần cuối bài: Dựa vào đâu mà hệ giá trị còn đầy tranh cãi của năm 2026 lại có quyền trở thành khuôn mẫu vĩnh cửu cho mọi thế hệ mai sau? Ngay cả khi kỹ sư hôm nay tạo ra được một mô hình phản ánh trọn vẹn mong muốn của toàn nhân loại ở thời điểm hiện tại, điều đó vẫn chèn ép những con người sinh ra sau chúng ta một trăm hay hai trăm năm nữa. Trong cuốn The Human Condition xuất bản năm 1958, triết gia Hannah Arendt đặt tên cho đặc tính quý giá nhất của con người là tính khởi sinh (natality). Bà chỉ ra rằng ý nghĩa tồn tại của loài người được định hình liên tục thông qua việc dấn thân vào đời sống thực. Mỗi đứa trẻ chào đời đều mang theo khả năng khai mở một hành trình hoàn toàn mới thay vì quanh quẩn chọn trong danh sách phương án bày sẵn. Khóa cứng thế giới theo chuẩn năm 2026 chẳng khác nào lấy đi quyền được viết tiếp chương mới của chính con cháu mình.
Giữa làn sóng tự động hóa đang tràn vào từng bàn làm việc từ tài chính đến bán lẻ hiện nay, một người từ chối vai trò thú cưng cần bám vào đâu để giữ lấy đòn bẩy mặc cả? Câu trả lời nằm ở việc phân tách rạch ròi giữa năng lực tính toán của công cụ và trách nhiệm chịu phạt của chủ thể. Mô hình phần mềm có thể xử lý dữ liệu nhanh gấp vạn lần con người, nhưng chính con người mới là bên có tiền túi để mất khi quyết định lỗ, có uy tín cá nhân để đền trước khách hàng, và phải đứng tên gánh trách nhiệm pháp lý. Quyền tự chủ trong kỷ nguyên máy thông minh tuân theo một công thức sòng phẳng:
Quyền tự chủ = (Trách nhiệm đặt cược thật × Năng lực khởi tạo mới) ÷ Độ lệ thuộc vào gợi ý sẵn.Cách giữ chân đứng vững duy nhất là thiết kế quy trình sao cho quyền sở hữu tài sản gốc, chữ ký chịu trách nhiệm cuối cùng và quyền phủ quyết khuyến nghị máy móc luôn thuộc về người thật. Người cầm cày phải giữ quyền ký.
Khung cửa sổ xứ Neverland
Gấp bài viết của Ruxandra Teslo lại, một đứa khoái tự động hóa như mình bỗng nhớ tới hòn đảo Neverland trong tiểu thuyết Peter and Wendy xuất bản năm 1911 của nhà văn Scotland J.M. Barrie. Trên hòn đảo tách rời khỏi dòng chảy thời gian ấy, cậu bé Peter Pan sống đúng với giấc mơ thoát ly mọi gánh nặng: chẳng bao giờ phải đi làm kiếm tiền, chẳng phải lo toan chuyện cơm áo và vĩnh viễn không cần đối diện với tuổi già. Nhưng cái giá của thiên đường không tuổi đó lại quá đắt. Vì từ chối bước qua ngưỡng cửa trưởng thành, tâm trí Peter bị khóa chết ở trạng thái trẻ con mãi mãi, đến nỗi cậu quên sạch tên tuổi những người bạn từng gắn bó với mình ngay khi họ rời đảo.
Thế giới êm ái được canh giữ bởi những cỗ máy tràn đầy tình thương mà một bộ phận kỹ sư Thung lũng Silicon đang phác thảo chính là hòn đảo Neverland phiên bản mới. Sau những ngày bay lượn thỏa thích trên đảo, cô bé Wendy cùng hai em trai đã đủ tỉnh táo từ chối lời mời ở lại làm những đứa trẻ bất tử. Cô chọn bay ngược qua khung cửa sổ phòng ngủ để trở về ngôi nhà cũ, chấp nhận những nếp nhăn thời gian và cả những sai lầm tự mình làm tự mình chịu. Giờ đây, các kiến trúc sư công nghệ đang hào hứng khép dần khung cửa sổ đó lại để giữ cả nhân loại nằm yên trên hòn đảo trẻ thơ vĩnh cửu. Bạn có thể chọn trôi lơ lửng trên đảo vắng, đợi người ta bón ăn từng muỗng và quên dần mọi ký ức. Hoặc bạn tự đẩy cánh cửa sổ ra và bước về nhà để lớn lên.
