280b

general · First seen 2026-08-16 · Last seen 2026-11-11 · 22 mentions

Overview

280b 通常指百度开源大模型 ERNIE 5.5 Flash Base 的总参数规模——280B(2800 亿),它是一款采用 MoE(混合专家)架构的基座模型,每个 token 仅激活 14B 参数。在当前开源社区普遍转向稀疏化大模型的背景下,这一规模属于主流的"大总参、小激活"路线,兼顾能力上限与推理成本。

280B MoE 模型的近期进展

百度方面已正式开源 ERNIE 5.5 Flash Base,公开其 280B 总参数、14B 激活参数的 MoE 基座权重,并支持最长 1M(100 万 token)的上下文窗口,参见 百度开源 ERNIE-5.5-Flash-Base:280B MoE 基座,支持 1M 上下文 与 Baidu 发布 ERNIE 5.5 Flash Base:280B 参数 MoE 基座模型。

推理生态的适配速度也较快。vLLM 项目宣布对该模型开源权重提供 Day-0 支持,即发布当天即可用 vLLM 部署,见 vLLM Day-0 支持 Baidu ERNIE 5.5 Flash Base 开源权重。这对希望自托管 280B 级模型的团队来说降低了接入门槛。

国内媒体与开发者社区对此次开源也有集中报道,IT之家等渠道确认了参数规模与基座定位:百度开源 ERNIE 5.5 Flash Base:280B 参数 MoE 基座模型。

当前焦点与观察点

围绕这一 280B 开源模型,目前值得关注的几个方向:

  • 稀疏比与实际成本:280B 总参数对 14B 激活的稀疏比约 20:1,实际部署时的显存占用、批量吞吐与激活参数的性价比仍需社区基准测试验证。
  • 1M 上下文的可用性:超长上下文在真实业务(长文档分析、代码库理解)中的效果衰减情况,是判断该模型实用价值的关键。
  • 生态适配:vLLM 之外的推理框架(如 SGLang、TensorRT-LLM)以及国产算力平台的适配进度,会影响其在不同部署环境下的普及程度。
  • 基座 vs 对话版:此次开源的是 Base 基座,后续是否会开放经过对齐的 Chat/Thinking 版本,以及开放权重许可证的具体限制条款,仍有待官方进一步说明。
  • 总体看,280B MoE 开源基座的出现,反映了中国厂商在旗舰级开源模型上持续加码的趋势。其真实竞争力如何,最终还是要靠第三方评测和生产环境落地来检验。

    Coverage

    10 on file