芯展速 AI90 方案将 SSD 纳入显存，首 Token 延迟缩短 50 倍

芯展速在 WAIC 2026 展出 AI90 软硬件一体化推理加速方案，将高性能 SSD 纳入 GPU 显存体系，形成 HBM+DRAM+SSD 三级存储。该方案将首 Token 延迟从秒级降至亚秒级，提速 50 倍，吞吐量提升 5.1 倍，显存节省 39%。针对 8 卡 NVIDIA GeForce RTX 5090 集群，推理加速达 5.8 倍，支持 128K+ 上下文。配套 PT200Z AI SSD 采用 pSLC 闪存与 PCIe Gen5 接口，顺序读取 14.8GB/s，随机读取 3100K IOPS，读取时延 54μs。