AI模型精选

MistralAI 模拟中训练模型:40万轨迹、22倍 token 减少、CISPO 在线 RL

Trained entirely in simulation: ~400,000 trajectories across 6,000 scenes. A prefix-caching recipe c...

精选理由

MistralAI 搞了个模拟训练,40万轨迹加前缀缓存省了22倍 token 还出了新算法 CISPO,速度和质量都提上去了。

AI 摘要

MistralAI 在模拟环境中训练模型,使用约 40 万条轨迹覆盖 6000 个场景。通过前缀缓存配方,训练 token 减少 22 倍,将原本数月的训练缩短至数天。进一步采用在线强化学习算法 CISPO,显著提升任务成功率。该方法完全在模拟中完成,不依赖真实世界数据。

AI 翻译 · 中文

MistralAI 在模拟环境中训练模型,使用约 40 万条轨迹覆盖 6000 个场景。通过前缀缓存配方,训练 token 减少 22 倍,将原本数月的训练缩短至数天。进一步采用在线强化学习算法 CISPO,显著提升任务成功率。该方法完全在模拟中完成,不依赖真实世界数据。

Mistral AITrained entirely in simulation: ~400,000 trajectories across 6,000 scenes. A prefix-caching recipe cuts training tokens by 22×, turning months-long runs into days. Online RL (CISPO) pushes success rates higher still. 💬