新芯航途发布智驾大模型芯片 X7 Ultra：700 TOPS 算力

新芯航途智驾大模型芯片 X7 Ultra 发布：700 TOPS 大模型算力，中国首发量产 Armv9 车规级 CPU

IT之家 10 月 29 日现场消息，XHEART 新芯航途今日正式发布大模型芯片 X7 Ultra，以“大模型定义芯片”为核心理念，从真实量产模型需求出发设计芯片架构， 大模型算力达 700 TOPS 。 XHEART 新芯航途 CEO 李宗霖认为， 随着智能驾驶从多个小模型走向端到端大模型，芯片的设计方式也需要随之改变 。因此，XHEART 在 2023 年创业之初就决定，从真实应用中的模型需求出发，倒推芯片架构，重新组织计算、存储和数据流转，并为未来模型演进预留空间。 据介绍，新芯航途 X7 Ultra 大模型芯片拥有 700 TOPS 大模型算力， 量产模型实测 99.99% 对齐 。 这枚芯片专为大模型设计，拥有超大核 NPU 架构，核内数据交互对比核间数据交互， 互联速率 TB/s 数量级提升 。另外， 芯片的多级缓存架构支持大容量、高并发特性，可降低推理时延与功耗 。 新芯航途 X7 Ultra 内置高精度大模型专用算子加速引擎，针对 Layernorm、Softmax、Transpose 等一系列 Transformer 大模型关键算子进行极致硬件优化， 原生支持 FP16/FP32 高精度向量计算 ，保障模型精度。 该芯片 NPU 硬件并行度解锁可充分释放大模型推理潜能， 计算利用率达 98.7% 。相比行业旗舰产品，其内存带宽消耗下降 80%， 能效提升 100% 。 新芯航途 X7 Ultra 还中国首发量产 Armv9 车规级 CPU， 性能提升 20%、能效提升 10% 。另外，大集群架构还提升了多核协同与 L3 访存性能， 集成全新 SVE2 向量处理引擎 ，相比上一代 NEON 具有更强的 DSP 性能。 IT之家附新芯航途智驾大模型芯片 X7 Ultra 核心亮点一图知如下：