MistralAI 模拟中训练模型：40万轨迹、22倍 token 减少、CISPO 在线 RL

精选理由

MistralAI 搞了个模拟训练，40万轨迹加前缀缓存省了22倍 token 还出了新算法 CISPO，速度和质量都提上去了。

AI 摘要

MistralAI 在模拟环境中训练模型，使用约 40 万条轨迹覆盖 6000 个场景。通过前缀缓存配方，训练 token 减少 22 倍，将原本数月的训练缩短至数天。进一步采用在线强化学习算法 CISPO，显著提升任务成功率。该方法完全在模拟中完成，不依赖真实世界数据。

原文 · Mistral AI

Trained entirely in simulation: ~400,000 trajectories across 6,000 scenes. A prefix-caching recipe c...

Trained entirely in simulation: ~400,000 trajectories across 6,000 scenes. A prefix-caching recipe cuts training tokens by 22×, turning months-long runs into days. Online RL (CISPO) pushes success rates higher still. 💬 1 🔄 0 ❤️ 11 👀 963 📊 2 ⚡

查看原推