Kokotajlo

general · First seen 2026-05-22 · Last seen 2026-10-06 · 10 mentions

Overview

Kokotajlo 通常指 Daniel Kokotajlo,前 OpenAI 研究员与预测研究者,因公开离职、警示 AI 失控风险而广受关注。他曾在 OpenAI 负责对齐相关工作,离职时放弃股权,此后与多人联合发布备受讨论的情景推演报告《AI 2027》,近期又推出面向更长周期的《AI 2040:Plan A》,成为 AI 风险讨论中的代表性声音之一。

Kokotajlo 近期进展

Kokotajlo 近期最受关注的动作是走向公众与监管场合。据 The Information 报道,前 Anthropic 与 OpenAI 研究员向纽约市议会作证:AI 越来越多地参与构建 AI,人类核查减少,他在纽约市议会听证会上指出,AI 系统越来越多地被用于构建下一代 AI,而人类对这一过程的审查正在减少。

同一听证会引发广泛关注。Gary Marcus 提到,纽约市听证会上与会者称多数代码已由 AI 编写且缺乏审查,另有 Intelligencer 采访 8 位 OpenAI 前员工,纽约市议会召开 AI 安全听证会,多位 OpenAI 前员工集中发声,使 Kokotajlo 的警告进入更主流的舆论视野。

在中文科技媒体侧,IT之家报道了OpenAI前研究员揭露:人类正打造无法完全控制的AI,并提到消息称 AI 失控前 OpenAI 已接到员工警告,但高层选择无视,称内部警告未获管理层足够重视。

当前焦点与观察点

Kokotajlo 团队的核心叙事正从“预警”转向“提方案”。他在《AI 2027》中预测 AI 可能接管世界或导致权力不可逆地高度集中,而在《AI 2040:Plan A》中给出了一个更积极的路径,承认 Plan A 是目前他们认为最可行的方案,但也希望在一切太晚之前出现更好的计划。

围绕他的争议在于:其预测建立在情景推演而非实证模型之上,批评者认为时间表过于激进,支持者则认为结构化推演有助于提前暴露治理风险。值得关注的方向包括:纽约市听证会是否会推动地方层面监管动作;AI 代码参与度上升与人类审查下降的趋势是否有量化数据支撑;以及《AI 2040》后续能否转化为具体的治理建议。对普通读者而言,Kokotajlo 的意义在于提供了一个观察 AI 安全争论的窗口,但对其预测仍应保持审慎判断。

Coverage

8 on file
Kokotajlo · AI 话题观测|AI热报