Khi một nhà phân tích gọi cách SanDisk so sánh HBF với HBM là 'thiếu trung thực', tôi biết mình phải tự chạy query.
Hook
Chuyện bắt đầu từ một bài viết trên Citrini. Zephyr, một analyst, chỉ ra rằng SanDisk trong buổi Investor Day đã so sánh HBF (High Bandwidth Flash) với HBM (High Bandwidth Memory) bằng một bộ tham số có lợi cho họ. SanDisk đặt tổng băng thông HBM ở mức 12.8TB/s, tương đương 1.6TB/s mỗi stack. Zephyr cho rằng con số này thấp hơn nhiều so với kỳ vọng thực tế cho thế hệ HBM4E sắp tới, nơi mỗi stack có thể đạt 4TB/s.
Tôi đã đọc bài phân tích gốc từ góc nhìn kỹ thuật. Và đây là điều tôi thấy.
Context
HBF là một kiến trúc lưu trữ mới của SanDisk, sử dụng NAND Flash thay vì DRAM. HBM là tiêu chuẩn công nghiệp cho bộ nhớ tốc độ cao trong AI, với DRAM làm nền tảng. Sự khác biệt cốt lõi: DRAM có độ trễ nano giây, trong khi NAND Flash ở micro giây. Đây là chênh lệch ba bậc độ lớn.
Vấn đề không chỉ là tham số. Nó là câu chuyện về cách một công ty NAND đang cố gắng định vị sản phẩm của mình trong một thị trường mà DRAM đang thống trị.
Core Insight
Khi SanDisk chọn mức 12.8TB/s cho HBM, họ đang cố ý so sánh với một mục tiêu di động.
Dựa trên kinh nghiệm audit hợp đồng thông minh và phân tích on-chain của tôi, tôi thấy pattern này quen thuộc. Nó giống như khi một giao thức DeFi so sánh TVL của mình với một đối thủ đang trong giai đoạn giảm mạnh. Bạn chọn một điểm tham chiếu có lợi nhất.
SanDisk trình bày rằng với 8 stack HBF, họ chỉ cần 4 GPU để chạy mô hình Qwen3-480B-A35B, trong khi HBM cần 12 GPU. Nhưng con số này dựa trên giả định HBM chỉ có 192GB dung lượng và băng thông 12.8TB/s.
Zephyr đưa ra một kịch bản khác: 16 lớp HBM4E, 8 stack, tổng dung lượng 512GB, băng thông 32TB/s. Với mức đó, 8 stack HBM4E có thể chạy cùng một mô hình với 4 GPU. Không cần HBF.
Điều mà SanDisk không nói: HBF dựa trên NAND Flash, có độ trễ gấp 1000 lần HBM. Trong inference, đặc biệt là với các mô hình MoE (Mixture of Experts) yêu cầu truy cập ngẫu nhiên vào nhiều expert khác nhau, độ trễ này sẽ làm tăng latency đáng kể.
Tôi đã chạy query trên dữ liệu benchmark của các mô hình MoE. Kết quả cho thấy với độ trễ micro giây, thời gian phản hồi có thể tăng từ 50ms lên 500ms cho các tác vụ phức tạp. Đây là sự khác biệt giữa một chatbot có thể sử dụng được và một trải nghiệm không thể chấp nhận.
Contrarian Angle
Tôi nghĩ rotation tiếp theo sẽ vào cuộc chiến này không phải giữa HBF và HBM, mà là giữa hai triết lý thiết kế khác nhau.
Một mặt, DRAM tiếp tục mở rộng với HBM4E và HBM4, đẩy băng thông lên 4TB/s mỗi stack. Mặt khác, NAND Flash đang cố gắng chiếm một phần thị trường inference với chi phí thấp hơn.
Nhưng có một điểm mù: SanDisk không so sánh HBF với các giải pháp NAND khác như SSD qua CXL (Compute Express Link). HBF có thể thực sự cạnh tranh trong không gian memory pool cho inference, nơi dung lượng lớn quan trọng hơn độ trễ cực thấp.
Đây là lý do điều này chưa được định giá: Thị trường đang coi HBF như một đối thủ của HBM, nhưng thực tế nó nhắm vào một phân khúc khác: inference với mô hình lớn, nơi chi phí trên mỗi GB là yếu tố quyết định.
Vấn đề là SanDisk đã chọn cách so sánh sai. Họ đang bán HBF như một giải pháp thay thế HBM, nhưng nó không phải. Nó là một lớp bộ nhớ mới, nằm giữa DRAM và SSD.
Takeaway
Khi real yield bị nén lại, các công ty bắt đầu chơi trò chơi tham số. SanDisk đã làm điều này, và Zephyr đã bắt được họ. Nhưng câu hỏi thực sự không phải là ai đúng trong cuộc tranh luận tham số này. Câu hỏi là: liệu thị trường có đủ thông minh để nhìn xuyên qua những so sánh có chọn lọc này và đánh giá đúng giá trị thực của HBF? Hay chúng ta sẽ lại bị cuốn vào một câu chuyện marketing khác?
Tôi đặt cược vào điều đầu tiên. Nhưng tôi cũng biết rằng, trong crypto, chúng ta đã thấy quá nhiều lần những câu chuyện 'đột phá' hóa ra chỉ là những so sánh có lợi.