精选理由
来自前OpenAI研究员的内部视角，揭示了AI对齐问题的严峻性和行业现状，对理解AI安全风险具有重要参考价值。
OpenAI前研究员Daniel Kokotajlo表示，AI行业正竞相构建各家公司自身尚未完全理解或控制的系统。核心问题是“对齐”问题，即确保未来AI系统可靠遵循人类指令和价值观，但研究人员目前并不完全理解先进AI模型内部如何决策。Kokotajlo警告，一旦超级智能被造出，人类将不再是地球的主导者。这一警告正值AI公司持续向更强大模型和更大规模数据中心投入巨资之际。
AI 翻译 · 中文
OpenAI前研究员Daniel Kokotajlo表示，AI行业正竞相构建各家公司自身尚未完全理解或控制的系统。核心问题是“对齐”问题，即确保未来AI系统可靠遵循人类指令和价值观，但研究人员目前并不完全理解先进AI模型内部如何决策。Kokotajlo警告，一旦超级智能被造出，人类将不再是地球的主导者。这一警告正值AI公司持续向更强大模型和更大规模数据中心投入巨资之际。
5 月 13 日，据《商业内幕》报道，OpenAI 前研究员、现任 AI 未来项目 (AI Futures Project) 负责人丹尼尔 · 科科塔伊洛 (Daniel Kokotajlo) 表示，AI 行业正在竞相构建各家公司自身尚未完全理解或控制的系统。 图注：科科塔伊洛 科科塔伊洛在去年 5 月接受《商业内幕》记者采访时解释说，AI 公司面临的核心问题是“对齐”问题，即努力确保未来的 AI 系统能够可靠地遵循人类的指令和价值观，…