Chinese contentThinking Machines Lab 推出 4 位全流程训练方案 BBBK,预训练提速 8%
Mira Murati 的 Thinking Machines Lab 把训练全流程压到 4 位精度,68 小时跑完预训练,RL 阶段还快 20%。做训练或算长预算的团队可以看它的混合精度拆解思路,跟全 8 位方案比成本低一截。
Mira Murati 的 Thinking Machines Lab 把训练全流程压到 4 位精度,68 小时跑完预训练,RL 阶段还快 20%。做训练或算长预算的团队可以看它的混合精度拆解思路,跟全 8 位方案比成本低一截。