Demis Hassabis 提出建立前沿AI标准机构以应对AGI风险

DeepMind联合创始人Demis Hassabis在一篇文章中呼吁，在AGI到来前建立治理基础设施，预计通用人类级认知系统仅需数年就会出现。他提出建立一个类似FINRA的Frontier AI Standards Body，由美国牵头，负责开发动态基准、对前沿模型进行发布前测试，并逐步从自愿审查过渡到对美国市场的强制要求。该提议基于DeepMind此前2023年Levels of AGI论文和From AGI to ASI论文，将AGI视为一条路径而非单一阈值。Hassabis强调可适应性，包括定期更新基准、独立盲测，甚至必要时协调前沿实验室放慢进展。该框架目前细节尚不充分，需防范被实验室捕获的风险，并建议引入英国AI安全研究所等独立评估方。