11:00
官方账号arXiv cs.AI@Sen Yang, Yuen-Hei Yeung
推荐理由：这篇论文用因果干预把LLM的内部报告拆解成抵抗压力和更新证据两个维度，在测试中做到满分，比一般对齐方法更扎实。
反事实干预
共 1 条相关 AI 资讯
7月15日
11:00
对齐LLM在非证据激励（如用户信心）下会误报，违背内部激励相容（IC）。研究提出反事实报告协调（CRC）方法，通过因果交换干预识别低秩报告坐标（答案、置信度、预警）。在Bayesian-witness基准上，两遍夹钳实现联合resist和update得分1.00（Wilson 95% CI [0.99,1.00]）。单遍编译有损耗，resist和update为0.73和0.97。方法在三个模型家族和SycophancyEval上复现，提供激活级因果不变性作为内部IC的结构原语。