精选理由
Joshua Achiam用亲身经历解释为什么FLOP门槛管不住AI风险，政策争论背后的真实问题是什么
Joshua Achiam指出FLOP计算阈值作为AI监管标准一直存在根本缺陷，因为FLOP与模型能力（尤其是危险能力）并不直接相关，且前沿模型所需FLOP因算法进步而逐步降低。他批评欧盟AI法案（1047）等政策忽略了这些已知问题，导致政策制定混乱。Achiam认为AI安全社区将混乱归咎于Marc Andreessen等外部批评者是不公正的，社区自身存在战略失误。他强调更合理的政策应基于具体能力风险（如网络攻击）而非算力阈值。
AI 翻译 · 中文
Joshua Achiam指出FLOP计算阈值作为AI监管标准一直存在根本缺陷，因为FLOP与模型能力（尤其是危险能力）并不直接相关，且前沿模型所需FLOP因算法进步而逐步降低。他批评欧盟AI法案（1047）等政策忽略了这些已知问题，导致政策制定混乱。Achiam认为AI安全社区将混乱归咎于Marc Andreessen等外部批评者是不公正的，社区自身存在战略失误。他强调更合理的政策应基于具体能力风险（如网络攻击）而非算力阈值。
They wanted it, they got it. Joshua Achiam @jachiam0 I am not operating from bad information nor from misunderstanding. I was directly on the inside of many of these tradeoffs. Some counterpoints: FLOP thresholds have al…