#不确定性校准

论文用实验告诉你，4比特量化的LLM最靠谱，比8比特还稳，想省资源又想要可靠性可以照这个选。

这篇论文点出了 RLHF 优化的结构性隐患——模型越优化越不敢说“不知道”，做 AI 安全和对齐的研究者、模型训练工程师值得细读，看完会对当前偏好优化的代价有更深理解。