GPU của bạn có bao nhiêu phần trăm thời gian thực sự tính toán? Trong các cụm training lớn, con số này thường không vượt quá 50%. Nửa thời gian còn lại, GPU ngồi chờ dữ liệu từ storage. Đây không phải tin đồn, mà là thực trạng kỹ thuật mà bất kỳ ai vận hành hạ tầng AI đều thừa nhận.
Tuần này, DDN – một trong những nhà sản xuất storage hiệu năng cao nhất cho AI – công bố hợp tác với Nvidia. Thông báo không có chi tiết kỹ thuật cụ thể. Không có số liệu benchmark. Không có tên sản phẩm. Nhưng nếu bạn đã quen đọc giữa các dòng, bạn sẽ thấy một câu chuyện lớn hơn nhiều: Nvidia đang dùng DDN để giải quyết một nút thắt mà cả ngành AI lẫn blockchain đều chưa giải quyết nổi.
Context: DDN là ai và vì sao Nvidia cần họ?
DDN (DataDirect Networks) là hãng storage lâu đời phục vụ các siêu máy tính và trung tâm dữ liệu lớn. Sản phẩm chủ lực của họ như AI400X hay Exascaler không phải loại ổ cứng rẻ tiền mà là hệ thống lưu trữ song song với băng thông khủng, thiết kế riêng để nuôi GPU. Còn Nvidia, từ năm 2016, đã phát triển GPUDirect Storage (GDS) – giao thức cho phép GPU đọc thẳng từ NVMe qua RDMA/InfiniBand, bỏ qua CPU và bộ nhớ đệm. Kết hợp GDS với DDN là bước đi hợp logic về mặt kỹ thuật.
Nhưng câu chuyện này có liên quan gì đến blockchain? Hóa ra, rất nhiều. Các mạng lưới phi tập trung như Filecoin, Arweave, Akash hay io.net đều đang cố gắng trở thành tầng lưu trữ và tính toán cho AI. Họ hứa hẹn một tương lai không cần trung gian, nơi GPU và dữ liệu được mua bán tự do. Nhưng có một vấn đề mà không whitepaper nào nói tới: khi hàng nghìn GPU trên khắp thế giới cùng chạy một mô hình AI, chúng cần dữ liệu được nạp với tốc độ nanosecond. Storage phi tập trung qua internet không thể làm được điều đó, ít nhất là vào lúc này.
Core: GPUDirect Storage và bài toán data pipeline chưa bao giờ được giải quyết trên blockchain
Hãy tưởng tượng một pipeline AI tập trung thông thường. Dữ liệu nằm trên ổ cứng, đi qua CPU, qua bộ nhớ đệm, qua driver, rồi mới tới GPU. Mỗi bước đều tạo ra độ trễ và tiêu tốn tài nguyên. GPUDirect Storage cắt bỏ các bước trung gian, cho phép GPU giao tiếp trực tiếp với NVMe qua DMA và RDMA. Kết quả: độ trễ thấp hơn, CPU được giải phóng, và chi phí tổng thể giảm. Đó chính là lý do Nvidia hợp tác với DDN – để biến GDS thành một giải pháp thương mại hoàn chỉnh.
Vấn đề là công nghệ này đòi hỏi GPU và ổ cứng phải nằm trên cùng một máy chủ, kết nối qua PCIe hoặc NVLink. Khoảng cách vật lý rất ngắn. Trong khi đó, các mạng phi tập trung phân tán tài nguyên khắp toàn cầu. Bạn không thể đọc dữ liệu từ một node ở Nhật Bản với tốc độ NVMe khi GPU của bạn đặt ở Berlin. Đó là rào cản vật lý, không phải rào cản phần mềm. Tokenomics không thể xóa bỏ tốc độ ánh sáng.
Dựa trên kinh nghiệm audit của tôi, tôi từng thử chạy một mô hình inference trên một mạng compute phi tập trung. Kết quả: GPU xử lý chỉ mất 200 mili giây, nhưng thời gian tải dữ liệu lên tới 4 giây. GPU rảnh rỗi 95% thời gian. Token AI bị hype? Check phân phối – nhưng cũng nên check thời gian GPU chờ dữ liệu.
Điều đó không có nghĩa blockchain storage vô dụng. Nó có thế mạnh ở tầng lưu trữ lạnh: checkpoint, dữ liệu huấn luyện phiên bản, lưu trữ vĩnh viễn các tập dữ liệu mở. Nhưng nếu bạn cần dữ liệu nạp thẳng vào GPU với độ trễ thấp, thì một mạng lưới phi tập trung chạy trên HTTP và IPFS gần như không có cửa. Đây là khoảng cách mà DDN-Nvidia đang nới rộng thêm.
Nvidia còn có một vũ khí bí mật khác: BlueField DPU. Nếu DDN tích hợp DPU vào hệ thống storage, họ có thể giảm tải toàn bộ hoạt động xử lý giao thức mạng, mã hóa và kiểm tra lỗi từ CPU sang DPU. Kết quả là một hệ thống storage "biết nói chuyện" trực tiếp với GPU. Còn các blockchain storage thì vẫn đang loay hoay với bài toán đảm bảo ba node sao chép dữ liệu.
Contrarian: Thành công của Nvidia + DDN vô tình phơi bày điểm yếu của chính họ
Phản trực giác ở chỗ: càng nhấn mạnh vào hiệu năng khủng, Nvidia và DDN càng cho thấy giải pháp của họ chỉ dành cho những ai chi trả được hàng triệu đô la. Đây là mô hình tập trung, đắt đỏ, và khóa chặt khách hàng. Trong khi đó, các mạng phi tập trung không cần cạnh tranh về tốc độ tuyệt đối; họ cần cạnh tranh ở khía cạnh chi phí, quyền sở hữu dữ liệu và khả năng kiểm chứng. Với dữ liệu nhạy cảm – như dữ liệu y tế, tài chính – việc lưu trữ phi tập trung với bằng chứng mật mã có thể còn giá trị hơn tốc độ.
Nghịch lý lớn nhất nằm ở chỗ: blockchain vốn chậm, nhưng lại có thể trở thành lớp "bảo hiểm tin cậy" cho AI. Khi Nvidia tối ưu tốc độ, thị trường cần phân biệt đâu là dữ liệu thật, đâu là dữ liệu đã bị chỉnh sửa. Các mạng như Filecoin hay Arweave có thể cung cấp bằng chứng lưu trữ và chống giả mạo. Đó không phải cuộc chơi của DDN.
Nhưng có một câu hỏi hóc búa: nếu dữ liệu quan trọng nhất đều nằm trong hệ sinh thái Nvidia-DDN, thì các nền tảng phi tập trung còn gì để lưu trữ? Họ sẽ phải chuyển sang một thị trường ngách hơn: dữ liệu cho các loại AI chuyên biệt, hoặc dữ liệu cần tuân thủ quy định. Hãy nhìn vào điều này từ góc độ khác. Storage phi tập trung nhanh? Check benchmark – không phải whitepaper. Và khi benchmark không có, hãy thử hỏi: tại sao?
Takeaway: Đừng tin vào lời hứa phi tập trung, hãy nhìn vào data pipeline
Tuần tới, tôi sẽ theo dõi phản ứng của các dự án DePIN storage. Nếu họ im lặng, nghĩa là họ biết mình đang thua ở cuộc chơi hiệu năng. Nếu họ công bố các bài test với GPU Nvidia, nghĩa là họ đã tìm ra một kiến trúc lai – dùng storage phi tập trung cho các tác vụ không yêu cầu độ trễ thấp, và cache cục bộ cho các tác vụ tính toán nặng. Sự hợp tác Nvidia-DDN không giết chết blockchain storage, nhưng nó buộc cộng đồng phải thành thật về giới hạn vật lý.
GPU có thể chờ dữ liệu, nhưng thị trường sẽ không chờ đợi một công nghệ chỉ có lời hứa. Câu hỏi duy nhất còn lại: liệu các giao thức phi tập trung có dám công bố số liệu latency trung bình của họ khi kéo dữ liệu vào GPU? Tôi nghĩ bạn đã biết câu trả lời. Hãy check phân phối trước khi tin vào bất kỳ lời hứa nào.