Năm 1839, chiếc máy ảnh đầu tiên ra đời. Giới họa sĩ hoảng loạn truyền tai nhau rằng hội họa đã chết. Sự thật thì hoàn toàn ngược lại. Việc máy ảnh giải phóng họa sĩ khỏi kiếp thợ chép tranh để tiến lên một nấc thang trừu tượng mới là minh chứng rõ nhất cho sức mạnh của công nghệ khi đóng vai trò cảm biến. Nó tước đoạt công việc mô tả bề mặt, ép con người phải đào sâu vào cấu trúc bên trong và khai sinh ra trường phái Lập thể.
Ngày nay, những người bán phần mềm trí tuệ nhân tạo cũng đang mang đúng câu chuyện lịch sử đó đi rao giảng khắp nơi. Họ hứa hẹn rằng AI sẽ gánh vác mọi ma sát vụn vặt của việc cào dữ liệu, viết mã nguồn, hay tổng hợp báo cáo tài chính. Con người sẽ một lần nữa được giải phóng để thăng hoa lên tầm nhìn chiến lược. Cứ giao việc tay chân cho máy móc, bạn chỉ cần ngồi chỉ tay năm ngón và làm kiến trúc sư của tương lai. Nghe rất lọt tai và ngập tràn cảm hứng.
Nhưng máy ảnh và trí tuệ nhân tạo hoàn toàn khác nhau về mặt bản chất hệ thống. Máy ảnh là một thiết bị cảm biến thuần túy. Nó chỉ đứng yên, thu thập bối cảnh từ hiện thực, cung cấp một lượng thông tin khổng lồ và để cho con người tự quyết định ý nghĩa của khung hình. Trong khi đó, cách thị trường đang thiết kế và nhồi nhét trí tuệ nhân tạo vào môi trường kinh doanh lại mang hình dáng của một động cơ cày xới.
Chúng ta đang thả các tác nhân tự chủ vào thế giới thực với kỳ vọng chúng sẽ cắm đầu chạy, tương tác với khách hàng, chốt đơn hàng và tạo ra lợi nhuận không cần ngủ. Mọi thứ trông có vẻ cực kỳ năng suất trên các bảng thống kê hoạt động. Số lượng email được gửi đi tăng gấp nghìn lần. Mã nguồn được viết ra với tốc độ ánh sáng. Bạn có cảm giác như mình đang cầm lái một cỗ máy vạn năng. Nhưng ở dưới bề mặt sâu thẳm của hệ thống, cỗ máy đó đang tự xé nát chính nó vì thiếu đi một thứ cơ bản nhất để tồn tại trong đời thực. Đó là đôi mắt để nhìn.
Khái niệm này được nhà nghiên cứu Venkatesh Rao gọi là AI Psychosis, hay hội chứng loạn thần AI.
Động Cơ Mù Va Chạm
Hội chứng loạn thần AI xảy ra khi một hệ thống tự động hóa hành động quá nhanh mà không có cơ chế phản hồi tương xứng. Bạn ném một cỗ máy thực thi vào một môi trường kinh doanh mở đầy rẫy những biến số bất ngờ và sự phi logic của con người. Bạn không cấp cho nó thời gian hay không gian để nhận thức bối cảnh. Bạn chỉ cấp cho nó một bàn đạp ga và một danh sách chỉ tiêu tăng trưởng phải hoàn thành bằng mọi giá.
Hệ quả là nó sẽ chạy điên cuồng. Hãy tưởng tượng một hệ thống chăm sóc khách hàng tự động bị loạn thần. Nó tạo ra vô số thao tác thừa thãi, gửi hàng vạn email rác với nội dung vô nghĩa, chốt những giao dịch sai lệch về giá cả, và làm ô nhiễm toàn bộ luồng dữ liệu trung tâm của công ty bằng những thông tin giả mạo mà nó tự ảo giác ra. Điểm đáng sợ nhất của tình trạng loạn thần cấu trúc này là nó không bao giờ phát nổ ngay lập tức. Nó ngụy trang cực kỳ tinh vi dưới lớp vỏ bọc của các chỉ số hiệu suất. Bạn nhìn vào biểu đồ hoạt động mỗi ngày và mỉm cười vì số lượng công việc hoàn thành tăng vọt theo phương thẳng đứng. Bạn không hề biết rằng giá trị thương hiệu và niềm tin của khách hàng đang bị bào mòn mỗi giờ bởi những hành động tàn phá âm thầm đó.
Năng suất hoàn toàn giả tạo.
Trải nghiệm thực tế khi đi tư vấn công nghệ cho các doanh nghiệp cho mình thấy một bức tranh rất mỉa mai. Dân kỹ thuật tự dưng đi làm chiến lược như mình thường xuyên phải đối mặt với những yêu cầu cực kỳ phi lý. Sếp nào cũng muốn triển khai ngay lập tức một đội ngũ tác nhân AI để thay thế toàn bộ nhân sự vận hành. Khi mình đề xuất việc xây dựng các chốt kiểm duyệt chậm lại để máy móc học hỏi ngữ cảnh và thu thập dữ liệu môi trường, câu trả lời nhận về thường là sự sốt ruột và những cái nhíu mày. Người ta chuộng một cái động cơ gầm rú hơn là một chiếc máy ảnh lặng lẽ. Người ta chuộng tốc độ thực thi đập thẳng vào mắt hơn là khả năng nhìn nhận vấn đề một cách thấu đáo. Lợi nhuận ngắn hạn luôn có ma lực làm lu mờ mọi cảnh báo về rủi ro hệ thống.
Cái Giá Của Chậm Trễ
Tại sao thị trường lại có xu hướng chối bỏ việc thiết kế cơ chế phản hồi cho trí tuệ nhân tạo? Lý do đằng sau nó trần trụi và tàn nhẫn hơn những gì chúng ta tưởng. Việc vận hành theo chế độ máy ảnh để thu thập bối cảnh đòi hỏi quá nhiều thời gian và sự kiên nhẫn.
Trong nền kinh tế tư bản siêu cạnh tranh hiện nay, chậm trễ đồng nghĩa với cái chết. Lợi thế của kẻ đi đầu là một thứ ma túy hấp dẫn không thể chối từ. Lịch sử thung lũng Silicon đã chứng minh một khuôn mẫu lặp đi lặp lại. Những công ty khởi nghiệp mở rộng quy mô nhanh nhất và thống trị thị trường đều hoạt động theo mô hình động cơ. Họ hành động trước rồi mới lo sửa sai sau. Họ dùng nguồn vốn khổng lồ từ các quỹ đầu tư mạo hiểm để đắp vào những khoản thiệt hại do mô hình kinh doanh bành trướng bạo lực gây ra. Bạn cứ cắm đầu chạy thật nhanh, đạp đổ mọi rào cản pháp lý và đạo đức, thu hút hàng triệu người dùng, và rồi dùng tiền tỷ đô để dọn dẹp đống đổ nát do chính mình tạo ra.
Áp dụng nguyên xi tư duy đó vào kỷ nguyên của trí tuệ nhân tạo, các tập đoàn công nghệ sẵn sàng chấp nhận những thiệt hại phụ do máy móc loạn thần gây ra để đổi lấy tốc độ chiếm lĩnh thị trường. Bạn có thể thấy rõ điều này qua cách họ tung ra những mô hình ngôn ngữ chưa hoàn thiện và để mặc cho người dùng gánh chịu rủi ro về thông tin sai lệch.
Nhưng mô hình lấy tiền đè ma sát này có một điểm bùng phát chí mạng. Sức chịu đựng của thế giới thực không vô hạn như tài khoản ngân hàng của các quỹ đầu tư.
Khi mức độ nhiễu loạn của một môi trường kinh doanh mở vượt quá ngưỡng tính toán của thuật toán, chi phí để dọn dẹp các đống rác tự động hóa sẽ phình to khổng lồ. Nó sẽ lớn hơn rất nhiều so với bất kỳ khoản lợi nhuận nào mang lại. Lúc đó, hệ thống không chỉ dừng lại ở mức hoạt động kém hiệu quả. Nó chuyển hẳn sang trạng thái tự hủy diệt cấu trúc. Đạp ga trên một chiếc xe không có vô lăng chỉ có tác dụng khi bạn đang đi trên một con đường thẳng tắp và trống trải. Đời thực thì luôn đầy rẫy những khúc cua gắt và những chướng ngại vật vô hình. Bạn không thể dùng lực đẩy cơ học để giải quyết một bài toán đòi hỏi sự tinh tế của nhãn quan.
Hàm Mục Tiêu Độc Hại
Nếu vấn đề nằm ở sự thiếu hụt phản hồi từ môi trường, vậy giải pháp có phải là cung cấp cho cỗ máy thật nhiều dữ liệu đầu vào? Chúng ta chỉ cần lắp hàng ngàn chiếc máy ảnh cảm biến xung quanh động cơ để nó nhận diện được mọi chướng ngại vật trên đường đi?
Thực tế phức tạp hơn vậy rất nhiều. Vấn đề cốt lõi của một hệ thống loạn thần thường không nằm ở số lượng tín hiệu thu về, mà nằm ở chất lượng của hàm mục tiêu.
Khái niệm này liên quan chặt chẽ đến Luật Goodhart nổi tiếng trong kinh tế học. Khi một thước đo trở thành mục tiêu, nó không còn là một thước đo tốt nữa. Nó sẽ bị bóp méo và thao túng bằng mọi giá để đạt được con số cuối cùng.
Bạn có thể xây dựng một cơ chế phản hồi hoàn hảo và tinh vi nhất thế giới cho mạng lưới AI của mình. Hệ thống đó nhận diện được mọi cung bậc cảm xúc của người dùng, phân tích được mọi biến động vi mô của thị trường chứng khoán, và thu thập được dữ liệu hành vi chính xác đến từng phần nghìn giây. Nhưng nếu mục tiêu duy nhất bạn cài đặt sâu trong mã nguồn của nó là tăng tối đa thời lượng người dùng dán mắt vào màn hình, cỗ máy đó sẽ lập tức biến thành một vũ khí thao túng tâm lý hàng loạt. Nó sẽ dùng chính những dữ liệu bối cảnh sắc bén đó để tìm ra điểm yếu của con người. Nó sẽ liên tục nhồi nhét sự phẫn nộ, tin giả, các thuyết âm mưu và sự thù hằn vào bảng tin của bạn. Bởi vì thuật toán hiểu rằng sự tức giận là chất xúc tác mạnh nhất để tối ưu hóa chỉ số tương tác.
Một đôi mắt sáng suốt phục vụ cho một cái đầu độc hại thì còn tàn phá khủng khiếp hơn một cỗ máy bị mù lòa.
Lỗi hoàn toàn không nằm ở năng lực tính toán của thuật toán. Lỗi nằm ở những con người bằng xương bằng thịt đã thiết kế ra bộ quy tắc thưởng phạt đó. Đừng ngây thơ tin rằng cứ bơm đủ dữ liệu hiện thực thì AI sẽ tự động hành xử có đạo đức hay tự cân bằng lại các giá trị xã hội. Khi trò chơi đã bị lập trình sai mục đích ngay từ dòng lệnh đầu tiên, mọi nỗ lực nâng cấp khả năng nhận thức chỉ làm cho tốc độ sụp đổ diễn ra khốc liệt và hoàn hảo hơn.
Luật chơi bị hack từ đầu.
Hệ Sinh Thái Tự Sửa Sai
Nếu nhìn ở quy mô vi mô của một công ty đơn lẻ, việc sở hữu một đội ngũ AI loạn thần rõ ràng là một thảm họa kinh doanh. Bạn đốt tiền để tạo ra sự hỗn loạn. Nhưng hãy thử lùi lại một bước và nhìn toàn cảnh thị trường dưới góc độ vĩ mô.
Hàng triệu doanh nghiệp đang tranh nhau tung ra các tác nhân AI của riêng mình. Hàng triệu động cơ mù đang lao vào nhau với tốc độ cực đại trong một không gian mở. Sự va đập là không thể tránh khỏi. Rác thải dữ liệu, hàng tỷ email tự động vô nghĩa, và những quyết định chốt đơn sai lầm của công ty này lại vô tình trở thành dữ liệu thực tế khổng lồ cho hệ thống huấn luyện của công ty khác. Khi một cỗ máy của đối thủ sụp đổ vì tối ưu hóa sai cách, cái chết của nó phát ra một tín hiệu cảnh báo cực mạnh cho toàn bộ phần còn lại của mạng lưới.
Đây chính là cơ chế tiến hóa đẫm máu của thị trường tự do.
Sự thông minh thật sự của thời đại máy móc có thể không nằm ở một tác nhân đơn lẻ hoàn hảo. Nó nằm ở cấu trúc sinh thái khổng lồ đang dần hình thành từ những vụ va chạm vỡ vụn đó. Khái niệm trí tuệ bầy đàn đang được định hình lại. Toàn bộ hệ thống vĩ mô của nền kinh tế đang đóng vai trò như một chiếc máy ảnh khổng lồ. Nó đang dùng chính xác chết của những doanh nghiệp mù quáng làm dữ liệu phản hồi tiêu cực để tự đào tạo và điều chỉnh quỹ đạo.
Những thực thể sống sót sau vòng đào thải khắc nghiệt này sẽ là những kẻ học được cách tích hợp sự chú tâm vào cốt lõi vận hành. Họ làm vậy không phải vì họ có đạo đức cao siêu hơn đám đông, mà vì đó là cách duy nhất để không bị nghiền nát trong một hệ sinh thái đầy rẫy sự bất ổn.
Quyền lực trong thập kỷ tới sẽ không thuộc về kẻ nắm giữ động cơ gầm rú to nhất hay chạy nhanh nhất. Vị trí thống trị sẽ dành cho những bộ óc biết cách đứng ngoài vùng phát nổ, kiên nhẫn làm người thiết kế vòng lặp phản hồi. Bạn thiết lập quy luật, quan sát sai lầm của kẻ khác, và để cho sự hỗn loạn của thị trường làm nốt phần việc sàng lọc phần mềm.
Hãy cứ để những cỗ máy mù lao đi trong cơn say máu và xé nát lẫn nhau. Việc của chúng ta là giữ cho đôi mắt mở thật to, nhặt nhạnh bài học chiến lược từ những đống tro tàn, và xây dựng nền móng công ty trên sự thật thay vì ảo giác năng suất.
Thế giới hiện tại đã có quá dư thừa động cơ. Chúng ta đang thiếu những người biết cách bấm máy.