MiniMax 的 M2 论文展示了模型开始参与自身开发闭环,做 AI 训练和模型优化的团队值得关注——自我进化能力可能改变模型迭代方式。
MiniMax 在 X 平台预告即将推出 M3 系列 AI 模型,并转发了一篇关于 M2 系列的 arxiv 论文。M2 系列总参数 229.9B,但每个词元仅激活 9.8B 参数,主打低激活高智能,配备 192K 上下文窗口。论文重点介绍了 M2.7 的自我进化雏形:模型能自主排查训练失败、阅读日志、修改代码,并在内部任务上完成 100 轮自主迭代,吸收团队 30%-50% 的日常迭代工作量。此外,MiniMax 还提出了面向智能体的强化学习系统 Forge,支持白盒与黑盒智能体统一接入,降低长轨迹训练成本。这些进展表明 MiniMax 在高效模型架构和模型自主迭代方面取得重要突破。
官方预告 MiniMax M3 系列 AI 模型即将登场
IT之家 5 月 27 日消息,上海稀宇科技有限公司(MiniMax)今天在 X 平台发布推文, 预告将推出 MiniMax M3 系列模型。 该推文转发了一篇 5 月 26 日发表在 arxiv 上的论文《The MiniMax-M2 Series: Mini Activations Unleashing Max Real-World Intelligence》,回顾了 MiniMax M2.x 系列模型的背后工作。IT之家附上相关截图如下: 该论文指出 MiniMax M2.x 系列模型总参数 229.9B,但每个词元仅激活 9.8B 参数,主打“低激活、高智能”,配备 192K 上下文窗口,预训练数据规模达 29.2T 词元。 在模型设计上,M2 系列采用 62 层解码器式 Transformer(变换器),使用 256 个细粒度专家,并为每个词元激活 8 个专家。 在训练系统层面,MiniMax 提出 Forge,这是一个面向智能体的强化学习系统,支持白盒与黑盒智能体统一接入。系统通过训练、推理与智能体解耦,配合窗口化 FIFO 调度、前缀树合并和推理加速,降低长轨迹训练成本。 M2.7 最受关注的升级,是论文提出的“自我进化”雏形。模型已能自主排查训练失败、阅读日志、修改脚手架代码,并在内部任务上完成 100 轮自主迭代。 论文称,这套系统已吸收团队 30% 到 50% 的日常迭代工作量,且在内部编程脚手架优化中带来 30% 性能提升,显示模型开始参与自身开发闭环。 参考 The MiniMax-M2 Series: Mini Activations Unleashing Max Real-World Intelligence