09:30
官方账号arXiv cs.AI@Weiduo Liao, Yunqiao Yang, Ying Wei
推荐理由：这篇论文提的S^2AE让视觉语言模型里稀疏编码的概念更一致，比普通SAE语义对齐涨了6%，还能保持高重建质量。搞多模态可解释性的可以看看。
稀疏编码
共 2 条相关 AI 资讯
7月10日
09:30
稀疏自编码器(SAE)在机械可解释性中学习稀疏潜在特征，但在视觉-语言模型(VLM)中，香草SAE难以学到跨模态一致的概念。研究者提出结构化稀疏自编码器(S^2AE)，在Qwen2.5-VL-7B-Instruct上评估，语义对齐(mIoU)平均提升6.06%，表征效率(l0范数)降低60.81，重构保真度(解释方差)保持在99%以上。跨模态分析显示S^2AE通过视觉结构先验增强神经元单语义性，语义一致性平均提升3.08%，单语义性得分平均提升2.37%。
5月13日
21:35
21:35官方一手Anthropic: Transformer Circuits（资讯）
推荐理由：想理解大模型内部机制的研究者有了新工具——Sparse Crosscoders 能跨层甚至跨模型提取一致特征，做可解释性分析的建议点开看看。