产品官方一手精选73°

华为发布 OceanStor M900:PB 级共享 KV 缓存存储,NPU 到 SSD 访问约 60 微秒

Huawei Debuts OceanStor M900 Context Memory Storage: PB-Scale Shared KV Cache With ~60μs NPU-to-SSD Hop

精选理由

华为新出的 KV 缓存存储,PB 级共享池加 60 微秒直读,推理集群能省不少重复计算。

华为在 HUAWEI CONNECT 2026 上推出面向 SuperPoD 的 OceanStor M900 Context Memory Storage。该设备提供 PB 级共享 KV 缓存池,供集群内多节点复用推理上下文。官方称 NPU 到 SSD 的一跳访问延迟接近 60 微秒,集群聚合带宽最高 40 TB/s。

原文 · pandaily

Huawei Debuts OceanStor M900 Context Memory Storage: PB-Scale Shared KV Cache With ~60μs NPU-to-SSD Hop

At HUAWEI CONNECT 2026, Huawei introduced OceanStor M900 Context Memory Storage for SuperPoDs, claiming a PB-scale shared KV-cache pool, one-hop NPU-to-SSD access near 60 microseconds, and up to 40 TB/s aggregate cluster bandwidth.