精选理由
DeepMind 用管理内部安全的方法管控 AI 智能体，分析了100万次编码任务后发现，坏事的都是太积极的智能体而不是恶意的，挺颠覆。
Google DeepMind 发布了新的 "AI Control Roadmap"，将安全措施与可衡量的 AI 能力挂钩。公司对 100 万个编码任务的分析显示，大多数问题源于过于热心的 AI 智能体，而非恶意意图。DeepMind 警告，建立全球安全标准的时间窗口正在关闭。
AI 翻译 · 中文
Google DeepMind 发布了新的 "AI Control Roadmap"，将安全措施与可衡量的 AI 能力挂钩。公司对 100 万个编码任务的分析显示，大多数问题源于过于热心的 AI 智能体，而非恶意意图。DeepMind 警告，建立全球安全标准的时间窗口正在关闭。
Google Deepmind treats its own AI agents as potential insider threats. The company's new "AI Control Roadmap" ties security measures to measurable AI capabilities, and an analysis of one million coding tasks shows most p…