DeepMind老大提议给AI上紧箍咒：前沿模型得先过30天安全体检才能卖，不然不准进美国市场。他预测AGI几年内就来，影响比工业革命还猛。
DeepMind CEO Demis Hassabis提议美国建立AI标准制定机构，要求达到特定跑分门槛的“前沿级模型”在发布前30天自愿提交给该机构进行安全评估。评估内容包括网络安全、生物武器威胁等高危防御，以及测试AI是否绕过安全护栏或存在欺骗人类迹象。通过评估的模型才能进入美国市场，强制要求AI生成图片加数字水印、思考过程生成可读符号。Hassabis认为AGI几年内将实现，其影响堪比火与电，冲击可能是工业革命的10倍速度和规模。
DeepMind CEO ：前沿模型需提前 30 天交给一个专门机构进行体检再发布 ，则不准进入美国市场 他认为： 通用人工智能（AGI）大概率几年就要实现 它的影响堪比人类发现“火”和“电” A...
DeepMind CEO ：前沿模型需提前 30 天交给一个专门机构进行体检再发布 ，则不准进入美国市场 他认为： 通用人工智能（AGI）大概率几年就要实现 它的影响堪比人类发现“火”和“电” AGI 带来的冲击可能是工业革命的 10 倍速度和 10 倍规模 目前全球正陷入一场极其激烈的商业和地缘政治竞赛 为了不让技术失控，他提议美国带头建立一个动态、灵活且严格的“标准制定机构 怎么管理：达到一定跑分门槛的 AI 模型叫“前沿级模型”，研发它的公司叫“前沿实验室”。这些实验室发布新模型前，得提前 30 天自愿把模型交给这个机构体检。 体检考什么： 考网络安全、生物武器威胁等高危防御。 防“AI 叛变”：专门测试 AI 会不会绕过安全护栏，或者有没有“欺骗人类”的迹象。 强制要求：AI 生成的图片必须加数字水印，AI 的思考过程必须生成人类能看懂的符号。 通过检测的才能进入美国市场： 前沿模型必须通过评估，才能在美国市场部署。 若事态足够严重，框架可再升级，包括协调前沿实验室之间放慢开发发布节奏，甚至停止开发... Demis Hassabis @demishassabis x.com/i/article/2076… 🔗 View Quoted Tweet 💬 1 🔄 0 ❤️ 0 👀 1017 📊 1 ⚡