Chinese content数学家 Timothy Gowers 发表博客回应数学与 AI 的关系
数学家 Timothy Gowers 发表博客回应数学与 AI 的关系，回应 25 位菲尔兹奖得主联名信。他同意联名信中关于数学在 AI 世界中激励、存在意义和未来的观点，但未签署联名信。
Latest
Every published item, in order · 1470 items
Sep 17
UIUC team gets seed grant for AI agent collaboration in biology
This project is significant because it demonstrates a practical application of AI multi-agent collaboration in a complex scientific field, potentially leading to new methods for modeling biological processes.
Chinese contentMETR组织回应与AI公司合作及评估工作
朋友，METR这个组织挺有意思，他们专门去查AI公司有没有失控风险，还和OpenAI、谷歌这些大公司合作，资金还来自捐款，不是收钱办事，值得看看他们的工作。
Chinese content生物风险讨论应聚焦于可实现的灾难性风险而非灭绝风险
Ramez Naam说，我们讨论生物风险时，应该少谈灭绝风险，多谈能造成数千或数百万人死亡的、更具体的灾难性风险，这样讨论会更少争议。
Chinese contentMETR报告未深入调查人类决策，仅关注AI行为
Gary Marcus批评METR报告只关注AI行为，没问OpenAI内部是否有人讨论过风险，比如高管和律师是否参与，这很关键。
Sep 16
Chinese contentDeepMind 成立研究所，聚焦 AGI 对经济、科学与社会的影响研究
DeepMind 和 Shane Legg 一起成立研究所，专门研究 AGI 对经济、科学和社会的影响，值得看看。
Tomorrow 08:00, the daily lands in your inboxTelegram channel or email. Same screening as this page, no ads.
Chinese contentNVIDIA 论文研究多模型系统中的模型选择策略
NVIDIA 的这篇论文研究得挺有意思，讲的是怎么选模型组成多模型系统，比如多数投票和 LLM 作为裁判的效果，以及不同模型组合的优劣对比。
Chinese contentAI安全人士警告过“过度政治化”AI安全的风险
Atoosa Kasirzadeh（一位AI安全领域的专家）批评了“AI安全”被过度政治化的现象，说这会阻碍AI安全研究的严谨性，并导致一些“AI安全”人士采取操纵政治的手段。
Google publishes AI in Science research
For readers interested in how AI is applied to scientific research, this provides insights into the scale and scope of Google's work in the field.
Chinese content30多位研究者将AI自我改进分为5级，当前75%仍停在Level 1-2
30多位研究者写了一篇75页的论文，把AI自我改进分成了5个等级，现在大部分研究还只停留在Level 1-2。
Chinese content字节跳动等机构发布《人类最后建造的AI》论文，评估AI自我提升五级体系
字节跳动和清华等机构联合发布的这篇论文，系统梳理了AI自我提升的五个等级，对理解AI发展风险很有参考价值。
Chinese contentPerplexity 发布 CobbleDB 研究
Perplexity 发表了他们构建 CobbleDB 的研究，这个数据库是他们的搜索服务的关键部分，由两位工程师和数百个 AI 代理在两个月内完成。
Chinese content谷歌研究发布用于长期任务的agent harness，在定理证明任务上取得新成果
谷歌研究团队发布了新论文，用他们的agent harness在数学证明任务上取得了新进展，和之前的模型相比，这个方法在解决复杂问题上有不同优势。
Chinese contentClement Delangue 提议加强 AI 透明度并禁止 AI 助力的网络攻击
朋友对朋友说：Clement Delangue 提了些好建议，比如禁止 AI 助力的网络攻击，还提到要给防御者最好的 AI 工具，挺有道理的。
Chinese content字节跳动等机构发布75页论文，将AI自优化分为5级，当前多数模型处于低级阶段
朋友，字节跳动和清华等团队搞了个75页的论文，把AI自己优化升级的能力分了五级，现在看主流模型都还处在比较初级的阶段，挺有意思的。
Sep 15
Target Prop algorithm discussed by Yann LeCun
For those interested in neural network optimization, this is a discussion of Target Prop, a backpropagation variant that could be more efficient in certain contexts like sparse auto-encoders.
Systematic RLHF book covers DPO, RLVR and model personality shaping
For anyone working on or studying reinforcement learning from human feedback, this book provides a comprehensive guide covering key techniques like DPO and RLVR.
Chinese content陶哲轩：LLM 最难的不是数学，而是预测其能力边界
陶哲轩（数学家）说LLM训练主要用线性代数和微积分，但模型在部分任务上表现惊人，在另一些任务上却失败，目前无法预测其能力。
Chinese contentYann LeCun 发表关于 AI 与现实世界差异的推文
Yann LeCun（深度学习先驱）说，AI 研究者太关注比特和令牌，没意识到现实世界有多乱，这个观点很值得听听。
Chinese content马斯克、扎克伯格等对AI风险的担忧与推动AI发展的矛盾
朋友，你肯定好奇为什么那些担心AI风险的人，比如马斯克、扎克伯格，还在推动AI发展。这篇文章帮你理清了他们背后的逻辑，比如先造出来才能研究安全，或者由我们这些有技术的人来主导，避免更糟的情况发生。
Chinese content微软研究发布新论文，探讨AI模型在PET/CT扫描中识别淋巴瘤病灶
微软研究团队新发的论文，专门研究AI模型在PET/CT扫描中识别淋巴瘤病灶的能力，还分析了大型决策系统的行为模式。
Meta paper shows byte-level models outperform token models at scale
This matters because it suggests byte-level models could be more efficient and powerful for large-scale training, potentially impacting the development of future AI systems.
Sep 14
Chinese contentAI验证成本降低导致风险承担者减少
朋友， Naval 提了一个很关键的观点：AI让容易验证的事变便宜了，但难验证的事还是难。现在没人为没验证的失败买单，导致验证预算缩水，大家都在用没监控的代理，这很危险。
Chinese content上海 AGI Bar 的 Next Token 第二期上线，讨论 GPT-6 Astra、DeepSeek V4.1 Flash 和苹果的 iPhone Duo
朋友录的播客，周一摸鱼时可以听，内容有 GPT-6、DeepSeek V4.1 和苹果的 iPhone Duo 这些热点。
