AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:机械可解释性×
5月11日
11:44
arXiv cs.AI(学术论文)
40
该论文指出,在机械可解释性研究中,越来越多使用因果词汇(如电路、中介、因果抽象等),但缺乏明确的识别假设。作者对四种方法学流派的10篇论文进行审计,发现没有专门的识别假设部分,验证指标(如忠实度、完整性等)常被当作因果证据,而未说明其识别假设。两名人工编码员对30篇论文的审计重现了主要发现:缺少专门的识别假设部分,验证指标替代普遍存在。论文提议披露规范:声明是否为因果主张、命名识别策略、列举假设、强调至少一个假设,并说明假设失败时结论如何变化,强调验证不等于识别。
论文机械可解释性因果识别方法论审计AI安全

推荐理由:该研究为可解释性领域提供了方法论反思,提醒研究者注意因果主张的严谨性,避免用验证指标替代因果识别。