09:50
官方账号arXiv cs.LG@Abdallah Khemais
推荐理由：这篇论文把权重空间消融的分析从单层推到了多层，还在Qwen2.5上验证了闭式注意力界，顺手找出了一个涌现电路，挺有意思。
权重空间消融
共 1 条相关 AI 资讯
8月5日
09:50
该论文将激活修补与权重空间消融的一致性分析从单残差块扩展到多层，并精确分离出跨层余项。作者为注意力子块导出了闭式Jacobian界，在Qwen2.5-1.5B-Instruct真实权重上验证，未出现一次违反。他们还在该模型上发现了一个涌现的间接目标识别电路，五个测试实例中三个表现出可测量的非零交互。论文同时补全了前作未展示的曲率常数。