Nvidia & Kioxia nhắm SSD 100 triệu IOPS vào 2027

Nvidia & Kioxia nhắm tới SSD 100 triệu IOPS vào năm 2027

Kioxia đang hợp tác với Nvidia để phát triển ổ SSD có khả năng đạt 100 triệu IOPS ngẫu nhiên vào năm 2027. Theo báo cáo, Nvidia dự định dùng hai ổ như vậy — tổng cộng 200 triệu IOPS — kết nối trực tiếp với GPU để tăng hiệu suất cho các máy chủ AI. 

Koichi Fukuda, Giám đốc công nghệ mảng SSD của Kioxia, cho biết: “Chúng tôi sẽ tiến hành phát triển theo đề xuất và yêu cầu của Nvidia.” 

1. Mục tiêu: 100 triệu IOPS

• Dự kiến loại ổ này sẽ sử dụng giao tiếp PCIe 7.0, hoạt động ở chế độ peer-to-peer (trực tiếp GPU ↔ SSD), chỉ dành riêng cho máy chủ AI cần truy cập và xử lý lượng dữ liệu cực lớn nhanh chóng. 

• Hiện nay, các SSD cao cấp chỉ có thể đạt khoảng 3 triệu IOPS 4K ngẫu nhiên, và để đáp ứng nhu cầu của GPU thế hệ mới — vốn được tối ưu cho truy cập theo đợt (burst) — ổ lưu trữ cần phải thay đổi kiến trúc tương tác với NAND. 

• Trước đó, Nvidia được cho là đề xuất ổ SSD đạt 100 triệu IOPS — tức cao hơn gấp 33 lần so với ổ hiện có. 

• Kioxia cũng đã công khai kế hoạch xây dựng ổ “AI SSD” dựa trên XL-Flash với hiệu năng đọc ngẫu nhiên 512K IOPS trên 10 triệu trong nửa sau năm 2026. 

2. Công nghệ XL-Flash và thách thức

• SSD dự kiến sẽ dựa trên loại bộ nhớ XL-Flash — dạng NAND SLC có độ bền cao, độ trễ thấp và hiệu năng ổn định. Kioxia thiết kế XL-Flash với 16 plane (so với 3–6 plane ở NAND 3D thông thường) nhằm tăng hiệu suất đọc/ghi ngẫu nhiên và tuần tự. 

• Nếu dùng SSD XL-Flash kích thước ~400 GB với 32 die NAND, giao tiếp PCIe 5.0 x4, có thể đạt ~3,5 triệu IOPS đọc ngẫu nhiên và ~0,5 triệu IOPS ghi ngẫu nhiên. 

• Trong lý thuyết, để đạt 100 triệu IOPS (với block 512B), sẽ cần khoảng 915 die tương đương, hoặc nhiều module, bộ điều khiển và switch phức tạp để phân tải. 

• Tuy nhiên, việc mở rộng hiệu suất không tuyến tính là thách thức lớn do các giới hạn trong kênh dữ liệu (data channel), đa plane, pipeline lệnh, firmware, độ sâu hàng đợi (queue depth) và các chi phí overhead khác. 

• Vì NAND truyền thống khó có thể đáp ứng yêu cầu này, Kioxia có thể áp dụng công nghệ mới như High Bandwidth Flash (HBF) — tích hợp nhiều thiết bị NAND và mạch điều khiển trong một cấu trúc chồng (stack) dùng TSV và microbumps. 

3. Ý nghĩa và thách thức ứng dụng

• Ổ SSD 100 triệu IOPS sẽ thúc đẩy khả năng truy xuất dữ liệu ngẫu nhiên cực nhanh, rất quan trọng đối với các nhiệm vụ AI như lấy embedding, tham số mô hình hay tra cứu cơ sở dữ liệu.

• Việc áp dụng SSD với hiệu năng cực cao sẽ thay đổi cách thiết kế hệ thống lưu trữ cho trung tâm dữ liệu AI: giao tiếp trực tiếp GPU ↔ SSD, giảm độ trễ trung gian và tối ưu băng thông.

• Song, việc sản xuất ổ SSD như vậy đòi hỏi đổi mới lớn về thiết kế phần cứng, firmware, cấu trúc kênh dữ liệu và quản lý hiệu suất — không đơn giản chỉ “nhân bản” các linh kiện NAND hiện tại.