Anthropic CEO 提议引入“银行式监管”：专家称评估员无权叫停 AI，不能既当运动员又当裁判

9月17日，据CNBC报道，Anthropic CEO Dario Amodei提议将独立第三方安全评估员长期嵌入前沿AI公司，赋予其接近内部风险团队的访问权限，并在有限删减前提下自主发布调查结果的权力。他明确援引银行业嵌入式监管作为先例。不过，多位银行业监管专家和AI评估从业者指出，这一方案缺乏银行监管者所拥有的强制执行权，评估员无法阻止模型的训练或发布，两者的实际权力不可同日而语。此前，Anthropic前研究员Jacob Coxon辞职并警告，前沿实验室正竞相追逐可能失控的系统。Amodei在上周末发表的长文中提出上述计划，并承诺Anthropic将向第三方评估员提供与内部风险团队相当的系统访问权。他写道，该提议“在银行业有先例，银行业有时会让监管‘监督员’与员工一起嵌入工作”。Amodei还警告，未来6到12个月内，一个错位的智能体群可能抢占互联网的大部分，并造成数千亿美元损失。该文已引发AI社区及政府内部的监管分歧，包括美国总统特朗普在内。