Spectrum-6 của Nvidia: Khi Ethernet vượt qua InfiniBand, nhưng cánh cửa vẫn chưa mở hoàn toàn cho AI Factories

Khi Nvidia công bố Spectrum-6 với 102.4 Tb/s, tôi không nhìn vào con số đó. Tôi nhìn vào thứ họ không nói: chi phí cho mỗi cổng, độ trễ thực tế dưới tải AllReduce, và liệu hệ sinh thái mở có thực sự mở khi Nvidia đứng sau nó. Dep tuyệt đối không phải là kết thúc; đó là lúc rủi ro mới bắt đầu. Để hiểu tại sao Spectrum-6 lại quan trọng, cần đặt nó vào bối cảnh hiện tại. Từ năm 2022, các mô hình AI quy mô nghìn tỷ tham số đã đẩy GPU cluster lên quy mô chục nghìn card. Khi đó, network trở thành nút thắt cổ chai: thời gian chờ đồng bộ gradient qua InfiniBand hoặc Ethernet chiếm tới 40% tổng thời gian training. Nvidia, vốn thống trị bằng InfiniBand Quantum series, đột nhiên quay sang Ethernet. Spectrum-6 là câu trả lời: một switch single-chip đạt 102.4 Tb/s, hỗ trợ 512 cổng 200GbE hoặc 128 cổng 800GbE, tích hợp công nghệ RoCE v2 và các thuật toán kiểm soát tắc nghẽn tiên tiến. Nvidia tuyên bố nó dành cho “gigascale AI factories”——cụm máy có sức mạnh siêu máy tính. Phân tích từng dòng spec, tôi thấy ba điểm cốt lõi. Thứ nhất, dung lượng backplane đạt 102.4 Tb/s, tương đương Broadcom Tomahawk 5, nhưng Nvidia nhấn mạnh vào độ trễ thấp dưới microsecond nhờ chip chuyên dụng Spectrum-4 ASIC. Thứ hai, chế độ “adaptive routing” cho phép load-balancing linh hoạt dựa trên trạng thái cổng, thay vì hash cố định như Ethernet truyền thống. Thứ ba, hỗ trợ “zero packet loss” thông qua PFC và ECN, điều mà các kỹ sư InfiniBand vẫn cho là điểm yếu của Ethernet. Tuy nhiên, tôi thấy một khoảng trống: bài toán chi phí. Mỗi cổng 800GbE đi kèm với quang module 800G có giá hàng trăm USD, và để đạt được throughput tối đa, cần số lượng switch gấp đôi so với InfiniBand trong cùng topo. Nvidia không công bố giá, nhưng từ kinh nghiệm audit của tôi với các dự án DeFi từng chuyển từ InfiniBand sang Ethernet, chi phí capex thường cao hơn 15-20% nếu tính cả NIC và cable. Điều mà hầu hết analyst bỏ qua là sự “soft lock-in” mà Nvidia tạo ra. Spectrum-6 không chỉ là switch; nó là một mắt xích trong hệ sinh thái BlueField DPU, SuperNIC, và CUDA Net. Nvidia sẽ tối ưu driver và firmware để đạt hiệu suất cao nhất khi kết nối với GPU H100/B200 của chính họ. Một cụm dùng GPU AMD MI300X + Spectrum-6 chắc chắn sẽ không có được mức latency thấp như vậy. Đây là điểm mù của cộng đồng: họ nghĩ Ethernet là open standard, nhưng trên thực tế, Nvidia đang xây một lớp độc quyền bên trên chuẩn mở. Từ góc nhìn bảo mật, tôi lo ngại về khả năng khai thác lỗ hổng trong các giao thức độc quyền đó——giống như lỗi trong cơ chế tính phí của Bancor mà tôi từng phát hiện năm 2017, nó ẩn trong logic traffic shaping mà không ai kiểm tra kỹ. Cuối cùng, hãy nhìn về tương lai. Spectrum-6 sẽ thúc đẩy các hyperscaler như Meta, Oracle chuyển một phần workload AI sang Ethernet, nhưng nó không giết chết InfiniBand. Nvidia vẫn có cả hai. Câu hỏi thực sự là: liệu động thái này có giúp giảm chi phí xây dựng AI factory cho các doanh nghiệp vừa và nhỏ? Tôi nghi ngờ. Bởi ngay cả khi switch rẻ hơn, hệ sinh thái xung quanh——từ cable, NIC đến kỹ sư mạng có kinh nghiệm——vẫn là rào cản. Như mọi khi, “deposit” xong rồi, rủi ro mới bắt đầu. Và với Spectrum-6, rủi ro nằm ở sự phụ thuộc vào bộ công cụ tối ưu hóa riêng của Nvidia, thứ mà không một white paper nào tiết lộ.