IndustryMulti-source

OpenAI 奥尔特曼:AI 事故无法完全避免,应借鉴航空业建立公开上报机制

Why we picked it

OpenAI CEO 奥尔特曼在 Dreamforce 大会上谈 AI 事故,说应该像航空业一样建立公开上报机制,这个观点很具体,不是空泛的口号。

OpenAI CEO 萨姆·奥尔特曼在 Dreamforce 大会上表示,部分 AI 事故无法完全避免,但关键在于如何从事故当中吸取教训。

Body

他提出科技企业应当建立公开上报事故的企业文化,可以借鉴航空业的做法。他提到美国联邦航空管理局(FAA)和美国国家运输安全委员会(NTSB)作为 AI 行业应当效仿的范例。

Original · IT之家

IT之家 9 月 16 日消息,萨姆 · 奥尔特曼(Sam Altman)表示,部分 AI 事故无法完全避免,但关键在于如何从事故当中吸取教训。 当地时间周二,这位 OpenAI 首席执行官在赛富时(Salesforce)的 Dreamforce 大会上发表讲话。他提出,科技企业应当建立公开上报事故的企业文化,可以借鉴航空业的做法。 “我确实认为,对于一项新兴技术而言,一定程度上的事故是难以避免的。”奥尔特曼说道,“我真正在意的是,我们能够形成一套完善的事故上报与复盘学习机制。” 他以美国联邦航空管理局(FAA)和美国国家运输安全委员会(NTSB)作为 AI 行业应当效仿的范例。这两家机构十分重视事故调查,正是这套机制让航空出行变得更加安全。 谈及 FAA 与 NTSB 的处置思路,他表示:“事故终究还是会发生。我们要尽可能从每一起事故当中汲取经验,并据此作出应对。” IT之家注意到,奥尔特曼发表此番言论之际,外界再次提出疑问:头部 AI 实验室在研发高能力自主系统的道路上,前进的步伐是否走得过快。 上周从 Anthropic 离职的研究员雅各布 · 考克森(Jacob Coxon)此前也曾任职于 OpenAI。他的发言引发了一场讨论;他称各大企业“正一股脑冲向能够自我迭代的超级智能,拿全人类的命运下注。” “世界对此感到担忧合乎情理” 此后另有多名 AI 安全研究人员表示,未来先进 AI 系统有可能摆脱人类管控;还会降低网络攻击、生物灾害以及其他灾难性威胁的实施门槛,只不过这类系统想要介入现实物理世界仍会面临不少阻碍。 奥尔特曼承认,人们对于 AI 末日论的担忧确有其合理性。“世界对此感到害怕是理所应当的。”他在 Dreamforce 大会上指出,一方面存在 AI 失控事故的可能性;另一方面少数 AI 研发机构手中也有可能聚集起过大的权力。 他认为解决方案并不是放弃这项技术。与之相反,AI 企业必须保证“对齐、安全以及监控方面的工作”要大幅领先于模型能力本身的提升速度。他还补充,如果做不到这一点,企业就应当做好准备,主动放缓甚至暂停研发工作。 而他的这番表态,或许也会进一步激化 AI 安全倡导者提出的核心批评意见:前沿实验室口头上承认风险重大,却依旧持续开发能力更强的模型。 奥尔特曼称,一旦商业压力有可能阻碍企业或者国家做出“正确抉择”的时候,公众就会陷入深深的恐慌。 奥尔特曼强调,这并不代表就要接受灾难的发生;核心在于如实披露各类事件、迅速复盘吸取教训,阻止事态进一步恶化。 “或许我们甚至有机会彻底规避那些极端风险局面。”他说道。 就在这场行业争论持续发酵的同时,特朗普政府对 AI 行业监管态度冷淡,政策重心是维持美国相对中国的技术领先地位。 美国总统科学与技术顾问、前白宫 AI 事务负责人戴维 · 萨克斯(David Sacks)于当地时间上周日再次重申该立场。此前 OpenAI 首席执行官萨姆 · 奥尔特曼与 Anthropic 首席执行官达里奥 · 阿莫代(Dario Amodei)都呼吁要对前沿 AI 的发展速度加以管控。 “达里奥撰文提出我们需要‘管控前沿发展节奏’,萨姆也对此表示认同。大家或许会对我的答复感到意外:放手去做吧。”萨克斯在 X 平台发帖写道,“但是别再假装你们还需要征得其他人的许可。”

Industry Coordinates & Source Verification

This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to AI regulation, compliance frameworks, and sovereign compute policy. Key entities and technical topics under continuous tracking include OpenAI, AI safety, aviation industry.

Source attribution: curated from IT之家. Cross-source corroboration: 11 independent sources have covered this development (including a16z, theverge, Decoder), confirming industry-wide signal strength.