09:25
官方账号arXiv cs.LG@Xining Xun
推荐理由：这篇论文用辛普森悖论测试干预数据，发现模型因果方向取决于上下文证据类型而非训练比例，还给了降错方案。
干预数据
共 1 条相关 AI 资讯
8月3日
09:25
在辛普森悖论设定下，增加预训练中干预样本比例并不能让模型正确判断因果方向，do()响应幅度增大但符号仍复制观察上下文。完全观察上下文在50个世界中29个出现符号反转，混合上下文19个，而仅对齐干预探针则41个正确。擦除上下文中的观察证据立即释放模型被压制的因果插值能力（ratio_true=+0.56）。在0.93B参数模型上，匹配探针仅干预分支的符号反转率为6%，而观察+干预分支为31.8%。作者提出证据平均协议，将符号错误从26%降至9%。