12:10arXiv cs.LG@Kiarash Rezaei, Omran Ayoub, Sebastian Troia, Francesco Lelli, Paolo Monti, Carlos Natalino精选该论文提出一个结合大语言模型(LLM)和SHAP特征交互的生成式可解释AI框架,专为下一代网络运维设计。传统XAI方法输出技术性强,非专家难以理解,而该框架通过结构化提示融入互特征交互数据,生成自然语言解释。在光传输质量估计用例中,人类评估者验证其解释有用性提升12.2%,范围提升6.2%,正确率达97.5%。这解决了网络AI模型黑箱问题,让运营商能信任并采纳AI决策。论文可解释AILLMSHAP网络运维特征交互推荐理由:网络运维团队终于有了能看懂AI决策的工具——LLM把SHAP的复杂特征交互翻译成自然语言,做网络AI可解释性的开发者可以直接参考这个框架。原文
21:35Anthropic: Transformer Circuits(资讯)Kamath 等人提出了一种新方法,通过特征交互来解释 Transformer 中的注意力模式,并将这些信息整合到归因图中。该方法能够揭示注意力头如何基于输入特征之间的相互作用来分配权重,而不仅仅是基于单个特征。这为理解 Transformer 内部机制提供了更细粒度的视角,有助于模型可解释性研究。论文展示了该方法在多个任务上的应用,证明了其有效性。论文Transformer可解释性注意力机制特征交互归因图推荐理由:做 Transformer 可解释性研究的团队终于有了一个能深入分析注意力机制的工具,建议点开看看具体方法。原文