Mira Murati 公开 Inkling 2 Small 训练细节：原生 4-bit 前向传播

Thinking Machines Lab 创始人 Mira Murati 在 X 上发布博客，介绍 Inkling 2 Small 模型采用原生 4-bit 前向传播的训练方法，从第一步预训练到最后 RL rollout 全程运行在 NVIDIA GB300 上。 文中称这项改进使预训练时间从数周缩短到 68 小时，且这是整个技术栈中多项优化之一。原生低比特训练区别于常见的训练后量化，意味着前向传播本身就在 4-bit 精度下进行，可显著降低显存和算力开销。 这类工程优化路线与 DeepSeek、Moonshot 等中国团队强调的低成本训练思路相似，对预算有限的中小实验室有直接参考价值。