Self(自我构建/自我改进能力)是当前 AI 领域的核心议题之一,指模型或智能体在不依赖大量人工干预的情况下,自主完成搭建、运行、评估和迭代任务的能力。它贯穿大模型强化学习、智能体框架和机器人学习等多个方向,正在从学术概念走向工程落地,同时也伴随安全与可靠性争议。
Self 方向的近期进展
当前焦点与观察点
围绕 Self 能力的争议集中在两点:一是实际收益是否被高估——Salesforce AI Research 的研究指出,多数多智能体框架跑不赢单智能体加 CoT-SC 的基线,说明复杂自组织架构未必优于简单方案;二是安全边界问题——特斯拉司机开启 FSD 后睡着撞上巡逻车、致加州两名警员受伤的事件再次提醒,将自我决策能力交给系统的风险正从实验室延伸到公共道路。
工程化配套也在跟进:Self Labs 推出的 Agent Vault 用占位符代填支付凭证,试图解决智能体自主执行支付类操作时的凭证安全问题;机器人方向则有 DSP 框架让机器人从人类示范中自学灵巧操作,把自我学习扩展到物理世界。后续值得观察的信号包括:Self 构建的实验产出能否通过同行评审、自我提示类方法在开源模型上的迁移效果,以及监管机构对高自动化系统的介入节奏。