500.000 GPU chạy vLLM: Chiến thắng của hạ tầng, không phải của mô hình mở

Bạn có nhớ lần đầu tiên một con số khiến tôi đặt điện thoại xuống và im lặng? Không phải TVL, không phải APY, mà là 500.000 GPU. Một bài viết từ Crypto Briefing tuyên bố vLLM, một dự án mã nguồn mở, đang chạy trên nửa triệu GPU và xem đây là bằng chứng cho sự trỗi dậy của “mô hình mở”. Tôi dừng lại. Tôi mở lại bài viết, tìm kiếm một con số benchmark, một so sánh với TensorRT-LLM, một xác nhận về số GPU đang chạy training hay inference. Không có. Chỉ có câu chuyện. Và câu chuyện đó, càng nhìn kỹ, càng lộ ra nhiều khoảng trống đến khó chịu. vLLM, nếu bạn chưa quen, là một hệ thống phục vụ mô hình ngôn ngữ lớn, mã nguồn mở, đến từ UC Berkeley và Anyscale. Nó không phải là một mô hình AI. Nó là tầng hạ tầng giúp chạy mô hình nhanh hơn, rẻ hơn, với các kỹ thuật như PagedAttention, Continuous Batching và Prefix Caching. PagedAttention giúp quản lý bộ nhớ KV Cache theo từng trang nhỏ, giảm phân mảnh VRAM, từ đó tăng số lượng request xử lý đồng thời. Continuous Batching cho phép hệ thống nhận request mới ngay trong lúc một batch đang chạy dở. Prefix Caching tận dụng lại phần tính toán chung khi hai câu hỏi có cùng mở đầu. Tất cả những thứ này đều đáng giá. Nhưng không kỹ thuật nào trong số đó tạo ra một mô hình Transformer mới, cũng không cải thiện khả năng suy luận của các tác nhân AI. Nó chỉ làm cho việc phục vụ mô hình trở nên rẻ hơn và nhanh hơn. Điều đầu tiên tôi muốn làm rõ: 500.000 GPU là một con số ấn tượng, nhưng nó không trả lời câu hỏi quan trọng nhất – những GPU đó đang chạy gì? Dựa trên kinh nghiệm audit của tôi, nhiều hệ thống AI lớn không dùng vLLM cho toàn bộ production. Họ dùng nó trong môi trường staging, CI/CD, chạy thử nghiệm hàng loạt, hoặc khởi tạo hàng trăm instance nhỏ mỗi khi cần kiểm thử. Nếu con số “500.000” là số GPU tích lũy từng được gắn vào cluster, thì nó nói lên mức độ phổ biến của công cụ, chứ không nói lên năng lực tính toán đang thực sự phục vụ người dùng cuối. Bài báo không phân biệt các khái niệm này. Và vì không phân biệt, con số này đánh mất khả năng kiểm chứng. Ngay cả khi con số là thật, nó chỉ chứng minh vLLM đã đạt đến độ ổn định production đáng kinh ngạc, một điều rất khó với các dự án mã nguồn mở. Nhưng nếu ai đó dùng nó để khẳng định “mô hình mở đang chiến thắng”, thì đó là một bước nhảy logic rất lớn. Một chiếc xe chạy tốt trên đường cao tốc không chứng minh chiếc xe đó thông minh hơn; nó chỉ chứng minh con đường đã sẵn sàng. Hãy nhìn vào góc thương mại. vLLM không bán license, không có doanh thu trực tiếp. Giá trị kinh tế nằm ở hệ sinh thái xung quanh: Anyscale có thể bán dịch vụ quản lý, các nhà cung cấp cloud có thể bán GPU instances với vLLM được cài sẵn. OpenAI-compatible API giúp doanh nghiệp giảm chi phí chuyển đổi khi rời bỏ các API đóng. Đây là tiềm năng để trở thành “Red Hat của thời đại AI”. Nhưng đó mới chỉ là tiềm năng. Bài báo không hề đưa ra doanh thu, mức tăng trưởng, hay tỷ lệ người dùng trả phí. Trong một bản tin tài chính, việc thiếu những con số đó giống như một bức tranh có khung nhưng không có vẽ gì bên trong. Về tác động ngành, nếu 500.000 GPU thực sự đang chạy vLLM, chúng ta đang nhìn thấy một sự thật lạnh lùng: hạ tầng suy luận đã trở thành một mặt hàng. Suy luận trở nên rẻ đến mức doanh nghiệp có thể tự chạy mô hình bên trong tường lửa của mình, thay vì gửi dữ liệu nhạy cảm lên cloud công cộng. Ngành tài chính, y tế, chính phủ đều sẽ hưởng lợi. Nhưng mặt trái là nếu GPU rẻ đến như vậy, giá trị của các vườn GPU đang được token hóa trong cộng đồng crypto cũng bị bào mòn. Đó chính là lý do vì sao một trang tin về tài sản số lại đưa tin về một dự án AI. Câu chuyện thực sự không nằm ở công nghệ, mà nằm ở dòng vốn muốn gắn vào khái niệm “sức mạnh tính toán phi tập trung”. Trong cuộc cạnh tranh, vLLM đang dẫn trước TensorRT-LLM, Hugging Face TGI, SGLang và Ollama. Nó được giới nghiên cứu lẫn doanh nghiệp hậu thuẫn, tích hợp sâu với LangChain, LlamaIndex và Ray, và có một cộng đồng rất đông đảo. Điều thú vị là các ông lớn cloud lại ủng hộ một dự án mở như vLLM. Tôi tin đây là nước cờ chiến lược để giảm sự phụ thuộc vào NVIDIA. Nếu tầng suy luận là một chuẩn mở, thì CUDA sẽ không còn là chiếc đinh vít duy nhất giữ mọi thứ lại với nhau. Nhưng tôi chưa thấy bài báo nào so sánh hiệu năng của vLLM với TensorRT-LLM trên GPU Blackwell thế hệ mới. Trong công nghệ, vị thế dẫn đầu có thể biến mất chỉ sau một chu kỳ phần cứng. Lợi thế hôm nay không tự động trở thành lợi thế ngày mai. Cũng cần nói về an toàn. vLLM là một cỗ máy trung tính, nhưng nó hạ thấp rào cản để triển khai các mô hình nặng với chi phí rẻ. Mã nguồn mở giúp tăng khả năng kiểm toán, nhưng không tự nó an toàn. Một mô hình mở có trọng số công khai, gần như không thể kiểm duyệt từ phía nhà cung cấp. Khi vLLM cho phép bất kỳ ai triển khai mô hình trong vài phút, bề mặt lạm dụng tăng lên rõ rệt. Bài báo không đề cập đến phòng thủ prompt injection, lọc nội dung, hay nhật ký kiểm toán. Với một chuyên gia, đây là một khoảng trống không thể bỏ qua. Bây giờ đến phần phản trực giác. Hãy tạm tin rằng 500.000 GPU là thật. Hãy tạm tin rằng vLLM là lớp hạ tầng phổ biến nhất. Khi đó, chiến thắng thuộc về tầng triển khai, không phải tầng mô hình. Và đây chính là nghịch lý: câu chuyện “mô hình mở” đang cưỡi trên con số ấn tượng của vLLM, nhưng chính vLLM chứng minh rằng mọi mô hình, dù mở hay đóng, đều có thể chạy trên cùng một engine. Nếu engine rẻ và tốt, thế giới sẽ ngày càng ít quan tâm đến việc mô hình nào đang được sử dụng, mà sẽ quan tâm nhiều hơn đến hạ tầng vận hành nó. Nói cách khác, việc mọi người dùng vLLM không phải là bằng chứng cho sự vượt trội của open-weight models. Nó chỉ ra rằng phần lớn giá trị mà các nhà đầu tư đang đặt cược vào “lớp mô hình” có thể đang dịch chuyển xuống “lớp hạ tầng”. Tôi cũng đặt câu hỏi về tính trung lập của nguồn tin. Crypto Briefing không phải một tạp chí chuyên về hạ tầng AI. Nó phục vụ cộng đồng tài sản số. Một câu chuyện AI được đăng tải ở đó thường không đơn thuần để thông tin, mà để dẫn dắt câu chuyện đầu tư: GPU token hóa, các mạng lưới tính toán phi tập trung, các quỹ “AI kết hợp blockchain”. Con số 500.000 GPU, một khi đã nằm trong đầu các nhà đầu tư nhỏ lẻ, sẽ trở thành một mảnh ghép hoàn hảo cho một câu chuyện lớn hơn. Câu chuyện đó có thể tạo ra biến động giá nhanh hơn nhiều so với những thay đổi kỹ thuật thực sự của vLLM. Vậy câu hỏi cuối cùng của tôi dành cho bạn: bạn đang mua câu chuyện nào? Nếu bạn tin vào “mô hình mở” sẽ thay thế các API đóng, hãy mở bảng benchmark, đo số GPU đang chạy mô hình đó, hỏi xem nó tốt hơn ở bài kiểm tra nào. Nếu bạn tin vào “lớp hạ tầng mở”, thì vLLM xứng đáng được theo dõi. Nhưng hãy nhớ: một engine không có doanh thu, không có số liệu sản xuất rõ ràng, và chỉ mới có một con số quảng bá. Đừng để một con số lớn che khuất những câu hỏi kỹ thuật. Tôi sẽ tiếp tục theo dõi sự di cư của giá trị từ mô hình sang hạ tầng, và từ hạ tầng sang những ai thực sự sở hữu GPU đang được sử dụng hữu ích. Vì trong thị trường này, câu chuyện luôn đi trước hiện thực, nhưng hiện thực thì luôn trả giá.