Allen AI 发布 Olmo-core 3 开源训练基础设施
精选理由
Allen AI 推出了 Olmo-core 3，支持万亿参数 MoE 模型训练，开源基础设施让大模型开发更透明。
Allen AI 发布了 Olmo-core 3，这是一个专为大型专家混合(MoE)模型设计的开源训练基础设施。该系统是下一代 Olmo 模型的核心系统，设计用于扩展到万亿参数规模。Olmo-core 3 已在 GitHub 上开源，可供研究人员和开发者使用。
原文 · Allen AI (Ai2)
We’re releasing Olmo-core 3—open training infrastructure for large mixture-of-experts (MoE) models.
It’s a core system behind the next generation of Olmo, designed to scale into the trillion-parameter range. 🧵
💻 GitHub repo: https://t.co/JT9Y3851gU https://t.co/kj0m76tjyx
