Khi NVIDIA Vera Rubin bắt đầu tăng tốc sản xuất, tác động đến thị trường bộ nhớ không còn chỉ giới hạn ở HBM mà đang lan sang cả NAND. Theo Alpha Economy, sản lượng Rubin tăng mạnh đang khiến cung – cầu TLC NAND trở nên căng thẳng hơn. Giá spot của TLC NAND 512Gb đã phục hồi từ mức giảm trong tháng 6, lên 21,125 USD vào ngày 17/8.
Dẫn số liệu từ DRAMeXchange, báo cáo cho biết giá đã tăng 4,97% so với tuần trước và tăng 11,6% chỉ trong vòng ba tuần.
CMX: động lực nhu cầu NAND mới
Theo Economy Tribune, việc NVIDIA đưa Context Memory eXtension (CMX) vào nền tảng Vera Rubin là một trong những yếu tố quan trọng thúc đẩy giá TLC NAND tăng.
Khi AI tạo sinh và các AI agent xử lý những ngữ cảnh ngày càng dài, KV cache - nơi lưu trữ kết quả tính toán của các token trước đó cũng nhanh chóng mở rộng. Việc giữ toàn bộ lượng dữ liệu này trong HBM đắt đỏ trở nên tốn kém và đòi hỏi dung lượng rất lớn.
Được xây dựng trên BlueField-4, CMX giải quyết nút thắt này bằng cách bổ sung một tầng bộ nhớ dựa trên flash nằm giữa HBM và bộ nhớ lưu trữ qua mạng. Nhờ đó, KV cache và các dữ liệu được đẩy ra khỏi HBM có thể được lưu trên flash và truy xuất khi cần.
Wccftech cho biết CMX sử dụng TLC flash, kết nối với các cụm GPU Rubin thông qua BlueField-4 DPU và Spectrum-X Ethernet, nhằm xử lý KV cache theo thời gian thực.
Quy mô của CMX có thể tạo ra một nguồn nhu cầu NAND mới đáng kể. Dẫn lời các chuyên gia trong ngành, Economy Tribune ước tính một cấu hình CMX có thể sử dụng khoảng 576 SSD enterprise, cung cấp tổng dung lượng lưu trữ lên tới 9.600 TB, tương đương 9,6 PB.
Mặc dù phần lớn nguồn cung TLC NAND cho NVIDIA nhiều khả năng đã được đảm bảo thông qua các hợp đồng dài hạn, Wccftech nhận định quy mô nhu cầu liên quan đến Rubin đang gây thêm áp lực lên thị trường spot. Điều này đặt ra câu hỏi: đợt tăng giá NAND có thể còn đi xa đến đâu?
Samsung, SK hynix và Kioxia được chú ý
Theo Economy Tribune, các nhà sản xuất NAND lớn như Samsung, SK hynix và Kioxia đều có thể hưởng lợi từ xu hướng này.
Kioxia đã giới thiệu SSD enterprise CM10 vào tháng 7, sử dụng BiCS FLASH™ TLC NAND thế hệ thứ 10, được tối ưu cho AI inference và context caching.
Kioxia cho biết CM10 được thiết kế để hỗ trợ kiến trúc NVIDIA CMX™, mang lại hiệu năng cao hơn, hiệu quả sử dụng điện tốt hơn và khả năng làm mát linh hoạt hơn so với CM9. Các mẫu thử hiện đã được gửi tới một số khách hàng được lựa chọn.
Trong khi đó, SK hynix đang đẩy mạnh SSD enterprise dung lượng cao sử dụng QLC thông qua công ty con Solidigm. Theo Economy Tribune, công ty đã bắt đầu sản xuất hàng loạt NAND QLC 2Tb, 321 lớp đầu tiên trên thế giới vào tháng 8 năm ngoái và bắt đầu xuất xưởng SSD dựa trên QLC 321 lớp vào tháng 4.
Về phía Samsung, Economy Tribune dẫn báo cáo bán niên công bố ngày 14/8, cho biết cả DRAM và NAND đều đạt mức xuất xưởng bit cao kỷ lục trong Q2, trong khi tỷ trọng lượng bit được xuất tới khách hàng máy chủ cũng đạt mức cao nhất từ trước đến nay.
Tháng 7, Samsung cũng bắt đầu sản xuất hàng loạt SSD enterprise PM1763 dành cho nền tảng NVIDIA Vera Rubin. Theo Chosun Daily, mẫu SSD 16TB này sử dụng V-NAND thế hệ thứ 9 cùng controller 4nm, đạt tốc độ đọc lên tới 28.400 MB/s và tốc độ ghi 21.900 MB/s, gần gấp đôi thế hệ tiền nhiệm.
Nguồn: TrendForce - NVIDIA Vera Rubin Spillover from HBM to NAND: CMX Fuels TLC Spot Price Rebound from June Dip
