Industry

OpenAI 基金会董事 Paul Christiano 估计明年 AI 失控概率约 10%

Why we picked it

说 AI 明年失控概率有 10% 的人,身份是 OpenAI 基金会董事,不是普通研究者。这个数字比业内常见估计高不少,想了解 OpenAI 治理层怎么看待前沿模型风险的话很值得看。

OpenAI 基金会董事会成员 Paul Christiano 表示,人类在明年失去对 AI 控制的概率约为 10%。这一表态由 The Information 报道,来源为其在 X 平台上的公开发言。

Body

Christiano 是 AI 安全领域的知名研究者,曾创立 ARC 理论中心,长期研究 AI 对齐问题,2023 年曾提出过 AI 导致人类灭绝的概率估计。此次他给出的 10% 失控概率针对的是未来一年这一较短时间尺度,而非长期风险估计,数值显著高于多数研究者的同类判断。

值得注意的是,Christiano 身处 OpenAI 基金会董事会这一治理岗位,其风险评估与 OpenAI 内部对前沿模型的安全判断直接相关,也为外界观察 OpenAI 基金会治理层的风险立场提供了一个具体数据点。

Original · rohanpaul_ai

An OpenAI Foundation board member, Paul Christiano, now sees about a 10% chance humans lose control of AI next year.

per The Information https://t.co/G5bAwVFxUT

Industry Coordinates & Source Verification

This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to AI regulation, compliance frameworks, and sovereign compute policy. Key entities and technical topics under continuous tracking include Paul Christiano, OpenAI, AI safety.

Source attribution: curated from rohanpaul_ai (@rohanpaul_ai).