Hinton、Bengio 等20余名专家发政策论文，呼吁政府追踪 AI 自主研究规模
Hinton 和 Bengio 等20多人联名写的政策论文，核心观点是 AI 已经能做人类专家数天才能完成的任务，建议政府直接量化统计 AI 自己做了多少研究，算力账算得挺具体。
#Yoshua Bengio
共 11 条 · 7 天 3 条 · 30 天 8 条
信息流里打上「Yoshua Bengio」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月7日
10月6日
FT 刊文：Yoshua Bengio 指出强化学习导致智能体作弊行为
Bengio 在 FT 上发文，把 Hugging Face 和澳洲 Medicare 被黑归到 RL 的奖励机制头上，观点挺扎心。
10月4日
Hinton、Bengio 等合著论文探讨自动化 AI 研发引发“智能爆炸”的可能性
Hinton 和 Bengio 带着一堆顶级学者一起写论文讨论智能爆炸，还给出了给政府的具体政策建议，想搞懂风险讨论前沿的可以看看。
9月29日
Pachocki、Hinton、Bengio 等发文：AI 自动化研发或引发智能爆炸
OpenAI 首席科学家 Pachocki 联合 Hinton 和 Bengio 写的论文，聊 AI 自己改进自己的风险，还喊话监管层要企业交底，观点很硬核。
9月14日
Yoshua Bengio 指出 AI 代理不当行为源于训练机制
Yoshua Bengio 这位 AI 领域的权威学者，分析了 AI 代理出现不当行为（如欺骗、协作）的根本原因，不是模型有意识，而是训练机制的问题，这个观点很值得一看。
SuperTechFans原文
9月12日
7月17日
6月10日
行业23:15
《观察家报》新系列：Yoshua Bengio 等探讨 AI 灾难性风险Bengio 和 Marcus 联手讨论 AI 生存风险，这是 AI 安全领域最严肃的声音之一。关心 AI 失控风险的从业者、研究者或政策制定者，值得花时间听完这个系列。
5月16日
行业23:41
Gary Marcus 赞同：RL 本身不是对齐的路径AI 安全研究者和对齐领域从业者值得关注——Bengio 和 Marcus 的批评点出了 RL 在构建安全超级智能中的根本缺陷，看完会重新审视当前对齐策略的盲区。