Microsoft CEO warns AI must be under human control
微软 CEO 纳德拉发布警告：AI 必须处于人类控制之下，支持更广泛的第三方测试
This matters to readers because it shows a major tech company like Microsoft is taking a cautious approach to AI development, advocating for slower deployment and more external oversight to ensure safety and control.
Microsoft CEO Satya Nadella released an internal memo on September 14 warning that AI development is moving too fast and must be slowed down. He supports broader third-party testing and says companies must ensure safety before deployment. He also released a 37-page draft of an 'humanistic' AI model behavior code. Nadella's memo outlines three key areas: ensuring AI is under human control, giving clients control over their unique knowledge, and ensuring local communities benefit from infrastructure.
微软 CEO 纳德拉发布警告：AI 必须处于人类控制之下，支持更广泛的第三方测试
IT之家 9 月 15 日消息，当地时间 9 月 14 日晚，微软 CEO 萨提亚 · 纳德拉在公司留言板发布内部备忘录，就 AI 行业是否发展过快发表看法。 他表示，AI 应保持在人类控制之下，支持更广泛的第三方测试，并警告公司必须花时间确保技术安全。“随着风险升高，人们应该需要多少时间就花多少时间。”“否则，你无论如何都会失去运营许可。” 此前，一些 AI 研究人员上周警告称，AI 技术可能杀死所有人。周末，Anthropic CEO 达里奥 · 阿莫代伊提议放缓 AI 开发，并表示公司会允许外部监控其模型进展。OpenAI CEO 萨姆 · 奥尔特曼同意第三方监控，并支持在必要时放缓部署，以确保对齐和安全。 微软周一还发布了 37 页的“人文主义”AI 模型行为准则草案。微软 AI 负责人穆斯塔法 · 苏莱曼写道：“我们长期在理论上担心的事情，已经变得非常真实。” 纳德拉在备忘录中提出三个重点领域。第一，明确设计目标：AI 必须处于人类控制之下，并广泛惠益社会。这意味着要打造一个能让开源和闭源模型都能繁荣的前沿生态，并在调整方向时谨慎把握节奏。 纳德拉将这种节奏类比为发布前的研发和测试。他表示，拥有更多外部或第三方测试和测试者是好事。随着风险升高，该花多少时间就花多少时间，否则最终将失去运营许可。 第二，对于客户，关键是确保他们控制自身独特和隐性知识，从而建立自己的持续学习循环，而不依赖任何单一模型提供商。Foundry 使长时间运行的智能体具备企业就绪能力，内置安全、安全护栏和 FinOps 等。 第三，微软必须确保本地居民能够切实感受到基础设施建设带来的好处，来获得建设相关基础设施的许可。纳德拉提到昆西数据中心是公司与社区长期共同成长的例子。 纳德拉总结称，这是一套贯穿三个层面的做法：如何在前沿构建，如何让客户保持控制，以及如何确保经济利益广泛扩散到社区和国家。他表示，作为一家公司，微软可以指向言语背后的实际行动。
