AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

Joshua Achiam

共 2 条相关 AI 资讯
7月8日
11:46
11:46IT之家(博客/媒体)
OpenAI 首席未来学家 Joshua Achiam 于 7 月 8 日宣布将于月底离职,结束自 2017 年以来近九年的任职。Achiam 表示离职是长期思考后的决定,并非因特定事件,计划继续在前沿实验室外推动 AI 相关工作。他今年 2 月在 OpenAI 组织调整后出任首席未来学家,负责 AI 长期风险、收益及政策研究,曾参与 GPT-4 技术报告。Achiam 现年 34 岁,长期从事 AI 安全与政策工作,OpenAI 尚未公布继任者。
行业OpenAIJoshua Achiam人工智能安全离职人事变动

推荐理由:OpenAI 那位研究未来的老将走了,他做了九年安全研究,还参与过 GPT-4,接下来会怎么影响 AI 安全圈?
原文
6月27日
15:24
15:24Marc Andreessen@pmarca
Joshua Achiam指出FLOP计算阈值作为AI监管标准一直存在根本缺陷,因为FLOP与模型能力(尤其是危险能力)并不直接相关,且前沿模型所需FLOP因算法进步而逐步降低。他批评欧盟AI法案(1047)等政策忽略了这些已知问题,导致政策制定混乱。Achiam认为AI安全社区将混乱归咎于Marc Andreessen等外部批评者是不公正的,社区自身存在战略失误。他强调更合理的政策应基于具体能力风险(如网络攻击)而非算力阈值。
行业Joshua AchiamMarc AndreessenFLOP阈值AI安全政策1047法案

推荐理由:Joshua Achiam用亲身经历解释为什么FLOP门槛管不住AI风险,政策争论背后的真实问题是什么
原文
精选全部日报登录