Chinese contentCATCH 方法通过持续对抗训练提升 LLM 诚实度
一篇把对抗训练用在诚实度上的论文，几百个样本就能让 Llama-3.3-70B 在三个诚实度基准上变靠谱，还能不掉能力。
#对齐训练
3 stories · 0 in 7 days · 1 in 30 days
Stories, products and papers tagged "对齐训练", newest first.
Oct 16
Oct 7
Chinese contentLSC-DPO：动态控制学习信号的偏好优化新方法
训练偏好模型的老问题：DPO 训到后面梯度就没劲了。这篇把 sigmoid 因子当成可调信号来动态控制，三个基准上都比 DPO 强，搞对齐训练的可以看看实现思路。
Jul 30
Chinese contentOptimismBench：语言模型概率判断的乐观偏差与对齐效应
这篇论文发现大多数大模型判断概率时普遍乐观，只有Anthropic的模型偏悲观，还揭示对齐训练会改变偏差方向，值得AI开发者和伦理研究者关注。