论文12:07CircuitKIT: 机械解释性电路发现、评估与应用工具包想分析模型内部?CircuitKIT把发现、评估、干预串成一条线,不用再自己拼凑不同工具了。#CircuitKIT#机械解释性#电路发现#模型可解释性aarXiv cs.LG@Pratinav Seth 等 4 人原文稍后读已读值得跟进有用关注 CircuitKIT
论文11:06揭示LLM电路发现中的方差根源:新方法CEAP这篇论文把电路发现中的方差问题讲透了,还提出了带理论保证的CEAP方法,能减少重采样方差,值得看。#LLM#电路发现#机械可解释性#EAP-IGaarXiv cs.LG@Frank Zhengqing Wu 等 3 人原文稍后读已读值得跟进有用关注 LLM
论文精选10:39注意力头电路发现:共激活提出,消融验证做模型可解释性研究的团队会感兴趣——这篇论文把共激活聚类和因果消融结合起来,给出了一个验证注意力头电路的实用方法,建议做电路分析的开发者试试这个闭环流程。#注意力头#电路发现#共激活#因果消融aarXiv cs.AI@Yongzhong Xu原文稍后读已读值得跟进有用关注 注意力头