Self

general · First seen 2026-05-22 · Last seen 2026-10-28 · 337 mentions

Overview

Self(自我构建/自我改进能力)是当前 AI 领域的核心议题之一,指模型或智能体在不依赖大量人工干预的情况下,自主完成搭建、运行、评估和迭代任务的能力。它贯穿大模型强化学习、智能体框架和机器人学习等多个方向,正在从学术概念走向工程落地,同时也伴随安全与可靠性争议。

Self 方向的近期进展

  • Self-Building Labs 提出 SBL:实验室可自行搭建并运行实验:arXiv 论文提出 SBL 框架,让 AI 实验室能够自行搭建并运行实验流程,被视为 Self 能力在科研自动化场景的代表性尝试。
  • DeepSeek-V4.1-Flash-1017 强化学习升级,可从零构建完整项目:DeepSeek 于 1017 版本上线的新模型,通过强化学习让模型具备从零开始构建完整项目的能力,随后 Together AI 也上线了该版本,重点展示完整项目构建场景。
  • SRCoT 架构提出:检索-反思-修订闭环让本地 LLM 生成带证据标注的文本:该工作把自我反思与修订做成闭环,让本地部署的模型输出可溯源的证据标注文本,是 Self 修正机制的具体实现。
  • 研究提出 Self-Instructed CoT 评估:推理模型自我提示可显著提升思维链可控性:研究显示推理模型通过自我提示生成的思维链在可控性上明显优于外部提示,为 Self 驱动的推理质量改进提供了量化依据。
  • 当前焦点与观察点

    围绕 Self 能力的争议集中在两点:一是实际收益是否被高估——Salesforce AI Research 的研究指出,多数多智能体框架跑不赢单智能体加 CoT-SC 的基线,说明复杂自组织架构未必优于简单方案;二是安全边界问题——特斯拉司机开启 FSD 后睡着撞上巡逻车、致加州两名警员受伤的事件再次提醒,将自我决策能力交给系统的风险正从实验室延伸到公共道路。

    工程化配套也在跟进:Self Labs 推出的 Agent Vault 用占位符代填支付凭证,试图解决智能体自主执行支付类操作时的凭证安全问题;机器人方向则有 DSP 框架让机器人从人类示范中自学灵巧操作,把自我学习扩展到物理世界。后续值得观察的信号包括:Self 构建的实验产出能否通过同行评审、自我提示类方法在开源模型上的迁移效果,以及监管机构对高自动化系统的介入节奏。

    Coverage

    10 on file