09:44
官方账号arXiv cs.LG@Aleksandr Berdnikov, Yevgeny Liokumovich
推荐理由：新研究发现大模型脑子里有张星空图，还能解码出来，挺有意思的。
残差流
共 2 条相关 AI 资讯
7月30日
09:44
研究发现，100B参数级别的语言模型在残差流中编码了夜空地图表示，且可从提示“夜空中靠近这个天体的目标是什么”中解码。多数开源模型在该表示上LOO测试显著，解释方差R²达65%-85%，中位角度误差为12°-21°。这是高维弯曲不可约特征流形的首个实例。代码已开源。
7月1日
11:11
11:11
官方账号arXiv cs.LG@Jian Gu, Aldeida Aleti, Chunyang Chen, Hongyu Zhang
推荐理由：这篇论文提出SemRF框架，帮你看清语言模型内部计算如何逐层演变，用Voronoi图定位知识分布，比只看激活值更精确。