Models

讯飞星火 X2.6 发布:全国产算力训练,293B-A30B MoE 架构

讯飞星火 X2.6 端云一体大模型发布,首次基于全国产算力实现代码和智能体能力突破

Why we picked it

星火 X2.6 不靠 N 卡训练,全用国产芯片,还把上下文做到 1M,输入定价 0.9 元/百万 tokens,端侧 4B 模型免费开源,可以试试。

科大讯飞在 1024 开发者节发布讯飞星火 X2.6 端云一体大模型,采用 293B-A30B 参数的 MoE 架构,上下文长度拓展至 1M。该模型基于全国产算力训练,率先突破国产芯片长程任务的训练效率瓶颈,解决了显存带宽限制导致的混合训练效率低下问题。同场发布的星火 X2.6-4B 开源端侧大模型相比 X2.5-4B 各项跑分明显提升,后者自 9 月 1 日开源以来下载量进入全球端侧模型前四。X2.6 推理定价为输入 0.9 元/百万 tokens、输出 3.6 元/百万 tokens,端侧 4B 模型限时免费。

Original · IT之家

讯飞星火 X2.6 端云一体大模型发布,首次基于全国产算力实现代码和智能体能力突破

IT之家 10 月 22 日消息,在今日下午的科大讯飞全球 1024 开发者节活动中, 讯飞星火 X2.6 端云一体大模型正式发布。 讯飞星火 X2.6 宣称 首次基于全国产算力实现代码和智能体能力突破 。科大讯飞董事长刘庆峰表示,只有星火一家是用全国产算力训练的,其他全是在 N 卡上训练,而且科大讯飞的尺寸是最小的。 此外,刘庆峰表示 讯飞星火 X2.6 率先突破国产芯片长程任务的训练效率瓶颈 ,适配国产平台的长程任务动态并行训练技术,解决了因为国产芯片显存带宽限制导致的混合训练效率低下问题。 对于国产算力集群在长程任务上的推理效率,科大讯飞也实现了两个重要创新: 一个是基于国产异构算力的分布式推理技术,解决国产芯片显存带宽限制导致的训不快问题。 另一个是提出基于国产设备的开发技术,很多东西都不用重新再计算,直接用原有结果就可以。 此外, 星火 X2.6-4B 开源端侧大模型正式发布 ,率先实现端侧大模型智能体能力阶跃,相比 X2.5-4B 模型的各项跑分都有明显提升。 IT之家从发布会获悉,9 月 1 日星火 X2.5-4B 端侧模型开源以来, 下载量已进入全球端侧模型前四 。 讯飞星火 X2.6 系列模型现已在讯飞星火官网开放试用,首发星火大模型端云一体协同架构。 讯飞星火 X2.6 基于国产算力完成训练, 采用 293B-A30B 参数的 MoE 架构 ,上下文长度拓展至 1M,代码与智能体能力达业界一流水平,同时提供专业安全防护并支持按任务场景自定义安全策略,推理定价为: 输入限时 0.9 元 / 百万 tokens 输入缓存命中限时 0.08 元 / 百万 tokens 输出限时 3.6 元 / 百万 tokens 讯飞星火 X2.6-4B 开源端侧大模型在代码、智能体、长文本及多语言能力上实现大幅提升,新增三档推理模式,自研推理框架下的推理效率较 ollama 有所提升, 推理定价限时免费 。