IndustryMulti-source71°

Anthropic 2021 年内部路线图曝光:AGI 验证原型从第一天就定义为 AI 程序员

Why we picked it

打官司翻出 Anthropic 2021 年创始路线图,原来 Claude Code 不是临时起意,而是五年前就定好的 AGI 验证路线。

一桩官司公开了 Anthropic 2021 年创始期的内部路线图,由联创 Jared Kaplan 撰写、Dario Amodei 等全员评审。文件显示 AGI 的第一个 Proof of Concept 被直接定义为同事级的通用代码智能体,能端到端创建、修改和解释软件。内部批注解释了原因:代码自带报错、测试和边界,是检验模型能否安全调用工具的试金石。Dario 当时拍板短期先做跑代码、看报错、改代码的闭环,长期再做完整工程师助理。今天 Claude Code 及代码环境里的强化学习,底层思路在五年前的这份路线图中已推演成型。

Original · Lxfater

大家通常以为,Anthropic 成立初期为了攻克通用的AI,写代码只是后来为了对抗竞争而寻求的出路。

但最近官司公开了 Anthropic 2021 年创始期内部路线图 事实完全反过来,他们从第一天起,就把 AGI 的验证原型直接定义为AI 程序员。

这份是联创 Jared Kaplan 写的,Dario Amodei 等全员一起评审过 目标就一个,安全、有益的 AGI 第一个 Proof of Concept,就是一个同事级的通用代码智能体 能跟人正常对话,也能端到端创建、修改、解释软件

为什么最讲究安全对齐的团队,起步却死磕写代码?

答案藏在当时的内部批注里:

1. 拿代码当安全试金石 Dario 和 Sam 最头疼的,是模型怎么在真机器上安全跑代码 代码有报错、有测试、有边界 调用工具对不对,强化学习跑不跑得通,看程序能不能跑起来就行

2. 避免对齐变成空谈 研究员 Amanda 提醒过 只在聊天里做对齐,代码里猛堆能力,两边会脱节 安全和能力,得在真刀真枪的场景里一起做

3. 战术先于全能助手 当时争的是,先做简单补全,比如查类型定义 还是先做会自己调试的 Agent Dario 拍板:短期先闭环,跑代码、看报错、改代码 长期再做完整的工程师助理

今天的 Claude Code,还有代码环境里的强化学习 底层怎么演进,五年前 Anthropic 团队内部就已经推演成型。