Note: Đây là một bức thư giả tưởng được viết dưới góc nhìn của một Giám đốc Công nghệ (CTO) gửi đến Giám đốc Tài chính (CFO) và Ban Giám Đốc (BOM), nhằm mổ xẻ một vấn đề cốt lõi trong kiến trúc AI doanh nghiệp hiện đại.
Thưa các anh chị Ban Giám Đốc (BOM),
Dân kỹ thuật như tôi thường mắc một căn bệnh kinh niên. Đó là niềm tin ngây thơ vào sức mạnh cơ bắp. Khi một hệ thống phần mềm nội bộ chạy chậm, chúng tôi cắm thêm RAM. Khi dung lượng đầy, chúng tôi mua thêm ổ cứng. Và bây giờ, khi con bot AI của công ty trả lời sai bét về chính sách hoàn tiền cho khách hàng, phản xạ đầu tiên của chúng tôi là ném thêm dữ liệu vào mặt nó.
Chúng ta đang đốt hàng triệu đô la mỗi năm để mở rộng cái mà các hãng bán cloud gọi là “cửa sổ ngữ cảnh”. Theo tư duy thông thường, chúng ta kết nối toàn bộ hệ thống wiki nội bộ, toàn bộ dữ liệu giao dịch từ hệ thống bán lẻ, toàn bộ lịch trình chuỗi cung ứng, và tất cả lịch sử ticket hỗ trợ khách hàng vào một kho dữ liệu khổng lồ. Chúng ta hy vọng một cách mù quáng rằng, chỉ cần cho con AI đọc đủ nhiều, nó sẽ tự động trở nên thông minh.
Nhưng thực tế thì sao? Một nhân viên vận hành chuỗi cung ứng hỏi về sự cố kẹt hàng tại kho trung tâm, con bot lại lôi nhầm quy trình xử lý khủng hoảng truyền thông của năm 2021 ra để áp dụng. Khách hàng khiếu nại về giá thịt heo hôm nay trên ứng dụng, nó tự tin tư vấn dựa trên một văn bản nháp về chiến lược giá đã bị hủy bỏ từ ba năm trước.
Sự ngạo mạn của dân tech khiến chúng tôi nhầm lẫn giữa hai khái niệm hoàn toàn khác biệt. Kéo dữ liệu ra không có nghĩa là nhớ.
Và đây là lời thú tội của tôi. Chúng ta đang mua một cái tủ hồ sơ đắt tiền nhất lịch sử nhân loại, và ảo tưởng rằng nó là một bộ não.
Căn Bệnh Chóng Mặt Thời Gian
Trong cuốn tiểu thuyết Austerlitz của nhà văn Đức W.G. Sebald, nhân vật chính Jacques Austerlitz có một sở thích kỳ lạ và ám ảnh. Anh ta thường xuyên lang thang qua các nhà ga xe lửa cổ kính trên khắp châu Âu. Những công trình kiến trúc khổng lồ đó đóng vai trò như một kho lưu trữ vật lý, khơi gợi lại những mảnh vỡ ký ức mà anh ta thậm chí không nhớ là mình sở hữu.
Nhưng Austerlitz không hề làm chủ được trí nhớ của mình. Quá khứ không được sắp xếp gọn gàng trong đầu anh, nó nằm la liệt trong không gian, chờ anh vô tình bước qua để kích hoạt một cách mất kiểm soát. Khi ranh giới giữa quá khứ và hiện tại tan chảy, anh ta rơi vào trạng thái chóng mặt thời gian (temporal vertigo). Anh ta không chủ động nhớ lại quá khứ, anh ta bị nó nuốt chửng. Mọi thứ đều diễn ra cùng một lúc. Đối với anh ta, không có điểm neo “bây giờ”, chỉ có một đống hỗn độn của những thứ “đã từng xảy ra”.
Con AI của chúng ta chính là Austerlitz.
Khi chúng ta sử dụng công nghệ tìm kiếm vector (RAG) để ném toàn bộ lịch sử hệ thống bán lẻ của công ty vào đầu nó, chúng ta đang đẩy nó đi lạc trong một nhà ga khổng lồ. Thuật toán cosine similarity (đo lường khoảng cách vector) thực chất chỉ kéo lên những embedding có độ tương đồng bề mặt cao nhất về mặt ngữ nghĩa. Khổ nỗi, không gian vector đó hoàn toàn mù tịt về thời gian. Nó không biết đánh giá xem trạng thái (state) của tài liệu đó đã bị thu hồi (evicted) hay chưa, và quan trọng nhất là không có bất kỳ một mỏ neo nhận thức nào để biết nó đang đại diện cho ai trong dòng chảy nghiệp vụ của doanh nghiệp.
Thuật toán sẽ tự tin trình bày lại một chiến dịch marketing đã chết yểu, đơn giản vì tài liệu đó dài hơn và có nhiều từ khóa trùng khớp hơn với câu hỏi. Nó bị chóng mặt thời gian.
Mọi người nghĩ con AI nhà mình đang suy luận. Không, nó đang đi lạc.
Ánh Sáng Dưới Cột Đèn
Vậy tại sao cả thế giới công nghệ vẫn đang đâm đầu vào hướng đi cồng kềnh này? Có một nguyên lý kinh điển trong tâm lý học gọi là hiệu ứng đèn đường (Streetlight Effect). Một người say rượu tìm chìa khóa bị rơi ở dưới cột đèn, không phải vì anh ta làm rớt ở đó, mà vì chỗ đó có ánh sáng.
Trong ngành công nghiệp AI hiện tại, cái “ánh sáng” dễ nhìn thấy nhất là số lượng tham số của mô hình và khối lượng dữ liệu nó có thể “nuốt” được trong một cú click chuột. Các ông lớn công nghệ đua nhau quảng cáo mô hình của họ có thể xử lý một triệu token (tương đương mười cuốn sách) trong một lần đọc.
Theo dữ liệu theo dõi của Epoch AI, chi phí suy luận thực tế đang giảm khoảng 50 lần mỗi năm với các thế hệ chip H100 lên GB200. Mức giá trung bình của OpenAI API hiện rơi vào khoảng $5 đến $15 cho mỗi triệu token. Nghe có vẻ rẻ, phải không thưa CFO? Nhưng hãy làm một phép toán: Nếu mỗi ngày hệ thống của chúng ta xử lý 50.000 truy vấn nội bộ, và mỗi truy vấn chúng ta ném 100.000 token lịch sử chưa qua chắt lọc vào cửa sổ ngữ cảnh, chúng ta đang đốt hàng trăm ngàn đô la chi phí vận hành (OpEx) mỗi tháng chỉ để… làm con AI bị lú lẫn. Mua thêm server và GPU để nhồi data rác là một việc rất dễ báo cáo lên BOM, nhưng lại là sự lãng phí thảm họa.
Cái cốt lõi cần đo lường đã bị cố tình lờ đi. Đó là độ chính xác của trạng thái trước hành động.
Trí nhớ thực sự của con người chưa bao giờ là sự lưu trữ thụ động. Như chuyên gia phân tích Ashwin Gopalan đã chỉ ra một sự thật sắc bén: trí nhớ là một hành động kiến tạo (operation). Trí nhớ là một canh bạc liên tục của bộ não, đặt cược xem phần nào của quá khứ nên được trích xuất để phục vụ cho một mục tiêu cụ thể trong tương lai. Nhớ không phải là nỗ lực lưu lại mọi thứ. Nhớ là nghệ thuật loại bỏ những thứ không cần thiết.
Đã đến lúc chúng xuất phát sự thay đổi chiến lược triển khai trí tuệ nhân tạo.
Kiến Tạo Trạng Thái Nhận Thức
Cái hệ thống của chúng ta thực sự thiếu không phải là một mô hình AI thông minh hơn hay đắt tiền hơn. Cái chúng ta thiếu là một Hàm Tiện Ích (Utility Function).
Hàm tiện ích là tập hợp các quy tắc lập trình định nghĩa rõ ràng mục đích, quyền hạn, và giới hạn rủi ro của người đang đưa ra câu hỏi. Hãy lấy một ví dụ thực tế trên hệ thống bán lẻ của chúng ta. Một khiếu nại của khách hàng về việc giao hàng trễ là một điểm dữ liệu duy nhất. Nhưng nếu người truy vấn là bộ phận Chăm sóc khách hàng, hàm tiện ích phải lập tức biên dịch điểm dữ liệu đó thành lịch sử bồi thường, kịch bản xoa dịu và quyền hạn cấp voucher. Ngược lại, nếu người truy vấn là Giám đốc Chuỗi cung ứng, hàm tiện ích phải biên dịch cùng khiếu nại đó thành một lỗ hổng trong quy trình điều phối xe tải giữa các trạm trung chuyển.
Chỉ khi thiết lập được hàm tiện ích này, hệ thống mới có thể thực hiện Kiến tạo Trạng thái có Quản trị (Governed State Construction).
Thay vì ném toàn bộ văn bản thô vào một cửa sổ ngữ cảnh (context window) cho con AI tự bơi, chúng ta phải xây dựng một tầng kiến trúc trung gian. Tầng phần mềm quản trị này sẽ lọc, đóng gói, ép kiểu dữ liệu (type safety) và biên dịch chúng thành một trạng thái nhận thức (cognitive state) tinh khiết. Chỉ khi trạng thái này được dán nhãn rành mạch và biên dịch xong (pre-compiled), nó mới được đẩy vào động cơ suy luận (inference engine) của LLM.
Thao tác này giúp giải quyết một bài toán vô cùng tốn kém: pháp lý và trách nhiệm. Việc xóa một chính sách cũ không chỉ đơn giản là lệnh xóa một dòng trong cơ sở dữ liệu. Hệ thống quản trị phải tự động truy vết và vô hiệu hóa toàn bộ những kết luận phái sinh mà con AI từng đưa ra dựa trên chính sách đó. Nếu không làm được điều này, sự cố sẽ lây lan như virus. Công ty sẽ phải gánh vác trách nhiệm pháp lý khổng lồ khi AI tiếp tục tư vấn sai lệch cho khách hàng dựa trên những bóng ma của quá khứ.
Nói cách khác, chúng ta đang dính vào một ảo giác kiến trúc. Cái mà chúng ta tưởng là “lao động trí óc” của AI (hiểu ngữ cảnh, suy luận logic) hóa ra lại bị chúng ta ép thành “lao động cơ bắp” khi bắt nó cày xới hàng triệu token rác vô tri. Động cơ LLM khổng lồ kia không phải là một bộ não; khi bị tước đoạt ngữ cảnh, nó chỉ đang làm công việc bốc vác dữ liệu. Tầng phần mềm quản trị trung gian (middleware) chứa Hàm Tiện Ích, đó mới chính là bộ não thực sự của hệ thống. Nó chỉ huy sự cơ bắp của LLM.
Sự Lật Đổ Của Mô Hình Nhỏ và Edge Computer
Điều thú vị nhất của sự chuyển dịch kiến trúc này không nằm ở kỹ thuật, mà nằm ở bảng cân đối kế toán.
Khi chúng ta làm chủ được khâu Kiến tạo Trạng thái có Quản trị, chúng ta không cần phải đóng “thuế trí tuệ” cho các hãng công nghệ lớn nữa. Chúng ta không cần dùng các mô hình khổng lồ, đắt đỏ cho mọi tác vụ hàng ngày. Hãy hình dung: một mô hình nhỏ gọn, chạy cục bộ trên máy chủ nội bộ với chi phí vận hành rẻ mạt, nhưng được nạp một trạng thái nhận thức đã được lọc sạch sẽ và sắc nét. Mô hình nhỏ bé đó sẽ dễ dàng đập bẹp một con AI khổng lồ hàng nghìn tỷ tham số nhưng đang chết chìm trong đống dữ liệu rác.
Chúng ta sẽ không còn tính hiệu quả bằng số lượng từ ngữ xử lý được mỗi giây nữa. Thước đo mới của hệ thống sẽ là tính hữu dụng sinh ra trên mỗi đơn vị điện năng và chi phí. Chúng ta chuyển hướng tối ưu hóa cấu trúc, chứ không phải vung tiền tối ưu hóa cơ bắp.
Đừng ngây thơ nữa. Đời là thế.
Sự đột phá tiếp theo của trí tuệ nhân tạo trong môi trường doanh nghiệp sẽ không đến từ những con chatbot biết làm thơ hay tạo ra hình ảnh bắt mắt. Nó sẽ đến từ một tầng phần mềm quản trị khô khan, nhàm chán nhưng cực kỳ nghiêm ngặt nằm chắn giữa đống dữ liệu hỗn loạn và động cơ suy luận. Tầng phần mềm đó sẽ làm nhiệm vụ phân loại thực tại trước khi cho phép cỗ máy được quyền lên tiếng.
Vào một ngày nào đó trong tương lai gần, khi đứng nhìn hệ thống máy chủ của chúng ta vận hành êm ái, tôi không muốn phải tự lừa dối bản thân rằng bên trong những lớp kim loại lạnh ngắt kia là một thực thể siêu việt đang tự học hỏi mọi thứ. Tôi muốn biết chắc chắn rằng, nó chỉ là một cỗ máy suy luận đang thực thi chính xác những gì nó được cấp phép.
Vấn đề không bao giờ nằm ở chỗ AI dốt. Vấn đề nằm ở chỗ chúng ta bắt một cỗ máy tư duy đi làm công việc của một gã lao công sắp xếp hồ sơ, rồi lại nổi điên khi gã vứt nhầm một bản hợp đồng trị giá hàng tỷ đồng.
Đã đến lúc ngừng việc vung tiền mua không gian lưu trữ. Hãy bắt đầu tự tay xây dựng trí nhớ.