Only

general · First seen 2026-05-22 · Last seen 2026-10-27 · 702 mentions

Overview

Only 是近期 AI 圈讨论度上升的一个研究取向标签,指那些'只靠单一机制或最小资源就能完成任务'的方法论——不依赖反向传播、不依赖强化学习、不依赖大规模数据管线,仅用一个核心思路解决持续学习、智能体训练等难题。它背后反映的是社区对复杂训练范式的反思:能否用更简单的路径达到接近的效果。以下整理相关进展。

Only 路线的代表性工作

  • Delta N-gram:无需反向传播的模型 N-gram 记忆持续写入方法:这项工作提出仅靠 N-gram 统计记忆的持续写入来更新模型知识,完全绕开反向传播,是 Only 思路在持续学习方向的典型体现。
  • ROFT:只用自我复盘微调,Qwen3.5-4B 不靠强化学习也能提升智能体表现:仅用自我复盘式微调,Qwen3.5-4B 在不使用强化学习的情况下提升了智能体能力,验证了'只靠一种信号'训练的可行性。
  • Graph Metanetworks 将权重空间学习扩展到 Transformer 语言模型:把学习对象直接放在权重空间上,同样属于用单一抽象取代传统多层管线的尝试。
  • 相关应用与争议

  • 研究测试向 Qwen3.8-Flash 与 DeepSeek-V4.1 记忆模块写入知识的可行性:直接对主流开源模型的记忆模块做知识写入,测试省去重训练的极简更新路径。
  • TypeSafe 发布 Jev 引爆决策 AI 模型赛道,卷入原创争议:决策类模型赛道的竞争升温,同时'借鉴还是原创'的争议也说明,简洁路线的归属与原创性正在成为行业焦点。
  • 当前焦点与观察点

    Only 取向的争议集中在两点:一是极简方法在多大范围内成立——例如研究显示仅靠删除数据的机器遗忘可能必须记住更多训练信息,提示'少即是多'并非处处适用;二是小型模型的极限,如小型语言模型在抽象推理任务上的系统性研究所探索的那样。此外,模型检索头存在阶段专门化现象的发现,也为理解简单机制内部的复杂性提供了视角。未来值得关注的是:这些单机制方法能否在机器人等更复杂场景(如 DepthWorld 3D 世界模型)中保持竞争力。

    Coverage

    10 on file
    Only · AI 话题观测|AI热报