理想汽车正探索自研云端推理芯片，沿用智驾芯片数据流架构，可复用设计和工具，车端马赫M100利用率82%。
据晚点Auto报道，理想汽车正探索自研云端推理芯片，采用与智驾芯片相同的数据流架构，项目仍处早期阶段。该芯片可承接GPU上的部分推理任务，包括智驾模型数据处理、测试、仿真及大语言模型请求处理。技术路径或复用车端NPU设计，将多个AI计算晶粒封装并配套高带宽内存。此前理想已发布车端推理芯片马赫M100，采用5nm工艺，单芯片算力1280TOPS，算力利用率达82%。
消息称理想汽车探索自研云端推理芯片，沿用智驾芯片数据流架构
IT之家 8 月 14 日消息，晚点 Auto 今天（14 日）晚间援引多个信源消息称，理想汽车正在探索自研云端推理芯片，将采用与智驾芯片相同的数据流架构，项目仍处早期阶段。 AI 数据中心普遍使用 GPU 完成模型训练和推理，也有数据中心部署云端推理芯片。一位芯片行业人士说，云端推理芯片可以 承接部分原本在 GPU 上运行的推理任务 ，这其中包括 智驾模型的数据处理、测试、仿真，以及大语言模型的请求处理 。模型训练中涉及参数更新的部分，仍需训练芯片。 根据业内人士，在云端使用数据流架构 技术上可行 。一种路径是复用车端 NPU（AI 处理器）的计算设计，将多个 AI 计算晶粒封装在一起，配套高带宽内存和高速互联，组成规模更大的推理芯片。由此，车端和云端 可复用部分设计和软件工具 ，分摊研发成本。 车端模型、传感器输入和运行节奏相对固定，主要追求低功耗、低延迟和稳定执行。而与车端芯片相比，云端芯片需要同时处理更多模型，模型更新更快，输入长度和并发请求波动更大，还涉及高带宽内存、多芯片互联、动态批处理和集群调度。 据IT之家此前报道，今年早些时候，理想汽车亮相 ISCA 2026，发表题为《马赫 M100：面向通用 AI 计算的编排式数据流架构》的主题演讲，并与谷歌、Meta 等科技公司研究者同台交流、共同探讨 AI 计算架构的未来方向。自 2020 年工业分区设立以来，理想汽车是首家入选的中国汽车企业。 马赫 M100 是全球首款基于数据流架构的大算力端侧推理芯片 ，其采用 5nm 车规级工艺，单芯片算力 1280TOPS，最终算力利用率达 82%，并搭载 8 通道 LPDDR5X 内存，峰值带宽 273GB/s；CPU 侧配备 24 核 ARM Cortex-A78AE 处理器集群。 相关阅读： 《 中国车企首次：理想汽车登台 ISCA 2026，发表马赫 M100 芯片论文入选报告 》