NVIDIA 与 d-Matrix 合作打造混合算力基础设施

AI 芯片竞合并存:NVIDIA 牵手 d-Matrix 打造混合算力基础设施

精选理由

NVIDIA 和 d-Matrix 搞了个混合算力方案,GPU 负责预填充、专用芯片负责解码,推理 Token 生成速度翻了 10 倍。不是单纯的拼硬件,是真正分工优化。

AI 摘要

NVIDIA 正与 ASIC 初创企业 d-Matrix 合作,将 Hopper/Blackwell GPU 与 d-Matrix 的 Corsair ASIC 结合形成混合算力基础设施。Parasail 通过该组合实现了 10 倍的 Token 生成速率。Corsair 采用台积电 N6 制程 D-IMC 架构,集成计算单元和足量 SRAM 降低数据开销。方案中 GPU 负责推理前端的预填充任务,Corsair 处理延迟敏感的解码任务。

AI 翻译 · 中文

NVIDIA 正与 ASIC 初创企业 d-Matrix 合作,将 Hopper/Blackwell GPU 与 d-Matrix 的 Corsair ASIC 结合形成混合算力基础设施。Parasail 通过该组合实现了 10 倍的 Token 生成速率。Corsair 采用台积电 N6 制程 D-IMC 架构,集成计算单元和足量 SRAM 降低数据开销。方案中 GPU 负责推理前端的预填充任务,Corsair 处理延迟敏感的解码任务。

IT之家IT之家 7 月 8 日消息,据美媒 The Information 当地时间 7 日报道,AI 芯片巨头 NVIDIA(英伟达)正与 ASIC 初创企业 d-Matrix 合作,打造一个结合双方硬件的混合型混合算力基础设施,支持 AI 模型的运行。 IT之家注意到,d-Matrix 在一份美国当地时间今日发布的新闻稿中表示,Neocloud 企业 Parasail 通过将 NVIDIA 的 Hopper / Blackwell GPU