18:33
官方账号arXiv cs.LG@Nikolai Bolik, Lennart Stöpler, Artur Andrzejak
推荐理由：这篇论文用SAE潜变量集做相似度度量，发现它并不比稠密嵌入更贴近人类概念判断，搞可解释性的人值得看看这个反直觉结论。
概念边界
共 1 条相关 AI 资讯
8月12日
18:33
Shani等人2026年的研究显示LLM表征能大致还原人类类别边界，但无法捕捉细粒度典型性结构。本文用稀疏自编码器（SAE）活跃潜变量集的重叠度作为更可解释的相似度度量，重新审视该分析。在受控玩具模型中SAE潜变量集能恢复并集式组合结构，在自然文本中也能诱导语义连贯的邻域。但扩展到人类概念分析时，SAE激活集并未比稠密嵌入或残差流状态更忠实还原类别边界或典型性，而是追踪模型内部相似性结构。在受控语义修改下，人类概念变化判断与SAE活跃集变化存在显著不匹配，说明在理想化设置之外SAE特征不按简单词袋语义组合。