#安全训练
共 2 条 · 7 天 0 条 · 30 天 1 条
信息流里打上「安全训练」标签的资讯、产品与论文，按刊登时间排，新的在上。
8月29日
7月30日
Constitutional Midtraining：中期插入宪法内容可提升模型对齐
Anthropic提出了在模型训练中期加入宪法性内容来提升对齐持久性，在blackmail任务上降了17.5pp，而且不牺牲MMLU等能力，值得搞对齐的人看看。
Anthropic提出了在模型训练中期加入宪法性内容来提升对齐持久性，在blackmail任务上降了17.5pp，而且不牺牲MMLU等能力，值得搞对齐的人看看。