谷歌AI责任团队调整引担忧

谷歌 AI 责任团队将被移出 DeepMind，员工担忧安全评估独立性受损

IT之家 8 月 27 日消息，据《华尔街日报》看到的一封内部邮件，谷歌正在将一支专门研究人工智能风险及其社会影响的团队从谷歌 DeepMind 调离。谷歌 DeepMind 是该公司负责开发前沿 AI 模型的研究机构。 两名现任 DeepMind 员工表示，这次汇报关系的调整引发了团队部分成员的担忧，他们认为此举可能对团队的研究工作产生负面影响。这次调整发生在谷歌 DeepMind 近期重组之后，在此次重组中，DeepMind 联合创始人兼首席执行官德米斯 · 哈萨比斯（Demis Hassabis）卸任 CEO，转而担任新设立的董事长一职。 从下周开始，这支约有 90 人的“AI 责任”团队将并入谷歌的全球事务部门，该部门负责代表整个公司开展游说以及公共政策事务。 IT之家注意到，此次人员调整是谷歌更大范围组织架构变化的一部分，此举旨在让谷歌 DeepMind 与谷歌其他部门实现更紧密的整合。谷歌于 2014 年收购了 DeepMind，此后 DeepMind 一直以半自主的方式运营。哈萨比斯在新职位上将主要负责对外事务以及 AI 领域的宏观议题，而接替他担任 DeepMind 负责人的是科拉伊 · 卡武库库奥卢（Koray Kavukcuoglu）。不过，卡武库库奥卢的职位名称将是高级副总裁，而不再是 CEO。 “GDM 正在转向一种更典型的 PA 架构，也就是将中央团队放到谷歌的中央部门中。”负责 AI 责任团队的谷歌 DeepMind 副总裁海伦 · 金（Helen King）在发给团队成员的内部邮件中写道。这里的 PA 指的是“产品领域”（Product Area），谷歌用这个词来称呼谷歌搜索等业务部门。包括人力资源和政策事务在内的其他团队也将从 DeepMind 转移到谷歌的中央部门。 《时代》杂志此前曾报道称，谷歌正在考虑重组 DeepMind 的部分安全团队。 随着外界对 AI 影响的审视不断加强，以及围绕这项技术的反弹情绪日益升温，AI 责任团队的一些员工已经在内部留言板讨论和会议中向管理层表达担忧。他们认为， 这次调整可能会削弱团队开展独立研究的能力。 据知情人士透露，AI 责任团队包括多个研究小组，其中一些负责测试谷歌 AI 模型在化学、生物、放射性和核领域可能存在的风险，另一些则研究人们与 AI 互动的方式，以及聊天机器人可能产生的心理影响。 员工担心， 团队离开 DeepMind 后，将无法像过去那样深入了解开发 Gemini AI 模型的团队正在进行哪些工作 ，也可能减少与这些团队的接触机会，从而影响他们发现和确定相关研究课题的能力。 谷歌发言人在一份声明中表示：“谷歌内部有多个团队都在开展 AI 安全和 AI 责任方面的工作。通过让 AI 责任团队更加紧密地协作，我们正在进一步增强这些团队为模型和产品安全提供支持的能力。” 谷歌的全球事务部门还包括公司中央的信任与安全团队。其他 AI 安全团队仍将留在谷歌 DeepMind 内部，其中包括负责模型行为、隐私和安全等领域的团队。 海伦 · 金一直在努力向员工保证，此次调整不会影响团队日常工作的开展，也不会改变团队的使命。她在邮件中表示，团队仍将重点关注负责任 AI 领域的新兴议题和前沿问题，同时，通过论文和活动等方式对外分享研究成果“仍将得到支持，并且依然十分重要”。她还表示，团队将继续获得 DeepMind 的访问权限，并保留现有的计算资源和人员编制。 “德米斯仍然非常重视负责任 AI，也仍计划参与相关工作。”金在邮件中写道。 知情人士表示，此次重组预计将于 9 月初正式生效。在调整正式实施之前，一些员工曾希望转入那些仍将留在 DeepMind 的研究团队，但遭到了拒绝。 知情人士还透露，在讨论此次调整的会议上，管理层已经承认，此举可能导致部分 DeepMind 员工转而寻求其他 AI 实验室的职位。 过去几个月，DeepMind 已经有多名顶尖研究人员离职。与此同时，该公司的旗舰 AI 模型在编程等能力方面已经落后于 Anthropic 和 OpenAI 的模型。 本月早些时候，自谷歌 AI 项目早期阶段起就一直担任核心人物的杰夫 · 迪恩（Jeff Dean）离开公司，并与另外三名 DeepMind 资深研究人员共同创办了一家初创公司。今年夏初，DeepMind 两名最知名的研究人员诺姆 · 沙泽尔（Noam Shazeer）和约翰 · 朱姆珀（John Jumper）也分别离开公司，前者加入 OpenAI，后者加入 Anthropic。

This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Key entities and technical topics under continuous tracking include Google, DeepMind, AI safety, organizational structure.

Source attribution: curated from IT之家.