#数值精度

一篇挺有意思的论文：同样的模型和提示，BF16 和 FP16 居然输出不一样，作者还给出了低于 4% 延迟开销的修复方法。

这篇论文把DeepSeek-V4-Flash的MoE数值细节挖得很深，归约顺序不同结果就不同，跑推理时得留神。