#语言模型

这篇论文揭示了小型语言模型中干扰权重的作用，对理解模型内部机制有重要意义，值得一读。

想省训练算力又不想掉性能？这个嵌套训练法把三个模型塞一个架构里，直接省36%算力，还顺带加速推理，值得一看。

这篇论文发现大多数大模型判断概率时普遍乐观，只有Anthropic的模型偏悲观，还揭示对齐训练会改变偏差方向，值得AI开发者和伦理研究者关注。

这篇文章发现了Claude模型内部有个‘大脑指挥部’——一小部分它能说出来的表征，其他都是自动在干。挺有意思的视角。

预训练数据去重总留尾巴，斯坦福算了一笔账：最坏情况浪费三分之一的算力，模型越大规律越清楚。训练前值得看看。

Stanford AI Lab@StanfordAILab原文

这篇论文揭示了标签选择能显著改变模型对误导信息的采纳率（最高差 84 个百分点），做 RAG 系统或上下文增强应用的开发者需要警惕：你用的标签可能无意中放大了错误信息的影响。建议点开了解如何控制这一变量。

这篇论文解决了语言模型持续学习中的核心痛点——遗忘问题，做模型微调或持续训练的团队可以直接用自生成回放方法，省去存储旧样本的麻烦，值得关注。

这项研究揭示了语言模型层级概念几何的统计根源，对理解LLM表征形成机制的研究者很有价值，建议关注其理论框架与实验验证。

这篇论文为智能体技能复用提供了首个系统性评估框架，做智能体开发或研究的人可以从中了解技能提取与消费的匹配规律，避免负迁移陷阱，值得关注。

流体力学和科学计算的研究者终于有了一个用语言模型做流场重建的新思路——稀疏数据下也能高精度重建，做CFD或实验测量的团队值得关注这个方向。

这篇论文揭示了AI医疗建议中隐藏的价值偏见问题，做医疗AI开发或临床决策支持的团队值得关注——它提醒我们，模型不只是输出答案，还在无声地传递伦理立场。

这项研究为理解语言模型内部功能组织提供了全新视角，做AI可解释性或认知科学交叉研究的团队值得关注——它把临床神经心理学方法搬到了模型分析中，看完会重新思考“模型损伤”的意义。

无人机搜索终于有了语义理解能力——LMPath 用语言模型和视觉模型替代纯几何覆盖，做搜救、巡检、环境监测的团队可以直接参考，实测效率提升明显。

自主智能体开发者长期受困于模型无法同时读写和思考的瓶颈，这篇论文直接给出了数据驱动的并行流解决方案，值得关注其后续实现和效果。

循环Transformer训练难、部署贵的问题被Attractor Models用不动点求解优雅解决，做语言模型预训练或推理增强的团队值得关注——它用更少参数和成本实现了对更大模型的超越。