LLM 相关 AI 资讯

AITOP

5月20日

11:35

官方账号arXiv cs.LG@Nico Pelleriti, Sree Harsha Nelaturu, Zhanke Zhou, Zongze Li, Max Zimmer, Bo Han, Sebastian Pokutta

精选72°

论文进化算法编码智能体 LLM

推荐理由：做 AI 编码智能体或进化算法研究的开发者，这篇论文帮你拆解了 benchmark 分数的真实来源——别再只看最终得分了，EvoTrace 让你看清智能体到底在“进化”什么。

原文

10:51

官方一手arXiv: DeepSeek@Ali Mohammadi Esfahani, Nafiseh Kahani, Samuel A. Ajila

精选

研究人员提出一个基于强化学习的框架，将提示词优化建模为序列决策问题。PPO代理通过混合动作空间（直接生成、遗传变异、语义重写）迭代改进提示词，并利用单元测试反馈的奖励信号驱动优化。在MBPP+、HumanEval+和APPS基准上，使用CodeT5+、CodeLLaMA和DeepSeek-Coder作为冻结代码生成器，PPO代理在MBPP+的500任务测试集上分别达到57.58%、64.80%和85.50%的严格Pass@1，优于EPiC、Reflexion和随机混合方法。软Pass@1分别达到67.90%、73.10%和88.20%。结果表明，带形状奖励的强化学习能显著提升LLM代码生成的功能正确性。

论文提示词优化强化学习代码生成

推荐理由：做LLM代码生成或提示词工程的开发者，这个框架直接解决了提示词敏感性问题——用RL自动优化提示词，比手动调参高效得多，建议关注其混合动作空间和奖励设计。

原文

10:49

官方一手arXiv: DeepSeek@Adrien Bazoge, Josselin Corvellec, Sofiane Djillali Sid-Ahmed, Pierre-Antoine Gourraud

精选

一项新研究评估了提示语言对大型语言模型临床诊断推理和最终诊断准确性的影响，比较了英文和法文下五个模型（o3、DeepSeek-R1、GPT-4-Turbo、Llama-3.1-405B-Instruct、BioMistral-7B）的表现。180个临床案例由两位医生使用18分量表评估，涵盖16个医学专科。结果显示，除o3外，其他四个模型在英文提示下表现更好，平均差异0.37-0.91分，差异体现在鉴别诊断、逻辑结构和内部有效性等多个推理维度。这表明提示语言仍是LLM临床性能的关键决定因素，对全球语言文化公平部署具有重要影响。

论文 LLM 临床决策支持多语言

推荐理由：医疗AI开发者需要注意：你的模型在非英语场景下可能掉链子，o3是唯一不受语言影响的例外。做多语言临床决策支持的团队，这篇论文值得细读。

原文

10:36

官方账号arXiv cs.AI@Husnain Amjad, Raja Khurram Shahzad, Aamir Shahzad, Mehwish Fatima

精选

这篇综述系统梳理了大型语言模型在数学推理领域的最新进展，涵盖约120篇论文。文章提出了统一的数学数据集分类法，区分了预训练语料、监督微调资源和评估基准。它分析了推理架构和训练策略（如工具集成、验证器引导推理、参数高效微调）对鲁棒性和泛化能力的影响。比较评估揭示了最终答案准确率与过程级推理验证之间的差距。最后，论文指出了常见失败模式（如推理忠实性问题、基准偏差）和未来研究方向。

论文推理模型数学推理综述/论文

推荐理由：做LLM推理研究或评估的团队，这篇综述帮你系统梳理了120篇论文的脉络，直接拿来当研究起点，省去大量文献筛选时间。

原文

08:22

08:22官方账号Simon Willison’s Weblog（博客/媒体）

精选

llm-gemini 0.32a0 版本发布，与 llm>=0.32a0 alpha 兼容。新版本增加了流式传输推理令牌的能力，让用户能实时看到模型的思考过程。这对于需要理解模型推理逻辑的开发者来说是一个重要更新。该版本主要面向使用 Gemini 模型的 LLM 命令行工具用户。

AI产品 Gemini LLM 流式推理

推荐理由：流式推理令牌让开发者能实时观察模型思考过程，做 AI 调试或教学演示的团队可以直接升级体验。

原文

00:20

官方账号Andrej Karpathy@karpathy

83°

AI 领域知名人物 Andrej Karpathy 宣布加入 Anthropic，重返大语言模型前沿研发。他认为未来几年将是 LLM 发展的关键形成期，对此充满期待。Karpathy 同时表示仍对教育保持热情，计划未来继续从事相关工作。这一消息引发社区广泛关注，被视为 Anthropic 在 AI 人才争夺中的重要收获。

行业 Anthropic Karpathy LLM

事件专题

推荐理由：Karpathy 的加入意味着 Anthropic 在 LLM 前沿研发上再添重量级人物，关注 AI 模型竞争格局的开发者值得关注后续动向。

原文

5月19日

23:42

Ate-a-Pi@svpino

开发者Santiago Valdarrama分享了一种极简方法，只需引入一个库并添加一行代码，即可为基于LLM的应用开启完整的可观测性和自动分析功能。该方法能免费获取大量关键信息，如请求延迟、Token消耗、错误率等，极大简化了调试和性能监控流程。对于构建和部署LLM应用的团队来说，这是一个无需思考的实用技巧。

技巧 LLM 可观测性监控

推荐理由：做LLM应用开发的团队，监控调试一直是个痛点——现在一行代码就能拿到全链路数据，省去自己搭监控的麻烦，建议直接试。

原文

23:18

TestingCatalog@testingcatalog

88°

AI 领域知名人物 Andrej Karpathy 宣布加入 Anthropic，重新投身研发工作。Karpathy 在 X 上表示，未来几年 LLM 前沿将尤为关键。他曾是 OpenAI 创始成员、特斯拉 AI 总监，并在 OpenAI 领导过研究。此举被视为 Anthropic 在 AI 前沿竞争中的重要人才引进，可能加速其模型研发。

行业 Anthropic Andrej Karpathy 人才流动

事件专题

推荐理由：Karpathy 的加入意味着 Anthropic 在 LLM 前沿的研发实力大增，关注 AI 模型发展的读者值得留意后续动向。

原文

14:32

官方账号arXiv cs.AI@Tinghan Ye, Arnaud Deza, Ved Mohan, El Mehdi Er Raqabi, Pascal Van Hentenryck

精选

本文提出一个基于LLM的智能体重优化框架，让非运筹学专家也能通过自然语言交互快速调整优化模型。该框架将LLM作为运筹学专家，将用户提示转化为结构化模型更新，并从优化工具箱中选择合适技术加速重优化。工具箱利用历史解、有效不等式、求解器配置和元启发式等原始信息，在保证解质量的同时提升计算效率。在两个大规模真实案例（在线供应链重优化和离线大学考试排程）中验证了其有效性和可扩展性。该框架减少了对运筹学专家的依赖，提升了决策支持系统的可持续性。

论文 LLM 运筹优化重优化

推荐理由：做供应链排程或排课系统的团队终于有了不用求OR专家的方案——LLM直接帮你改模型、选算法、出解，建议做运筹优化的开发者点开看实现细节。

原文

14:22

官方账号arXiv cs.AI@Yuxiang Huang, Nuno M. T. Gonçalves, Federico Alvetreti, Lei Li, Xu Han, Edoardo M. Ponti, André F. T. Martins, Marcos V. Treviso

精选72°

DashAttention 提出了一种新的分层注意力机制，通过可微分的 α-entmax 变换替代传统 top-k 操作，自适应地为每个查询选择可变数量的关键值块，从而解决了现有方法（如 NSA 和 InfLLMv2）中固定块数和梯度阻断的问题。该方法保持整个层次结构完全可微分，且具有非分散性，提升了长上下文建模能力。实验表明，在 75% 稀疏度下，DashAttention 的准确率与全注意力相当，在高稀疏场景下优于 NSA 和 InfLLMv2。其基于 Triton 的 GPU 实现推理速度甚至超过 FlashAttention-3。DashAttention 为长上下文模型提供了一种高效且经济的方案。

论文注意力机制长上下文稀疏注意力

推荐理由：长上下文 LLM 的推理成本一直是痛点，DashAttention 用可微分稀疏注意力在保持精度的同时大幅提速，做长文本推理和模型优化的研究者值得关注。

原文

10:49

10:49官方账号Simon Willison’s Weblog（博客/媒体）

精选

Simon Willison 在 PyCon US 2026 上用五分钟闪电演讲总结了 LLM 领域过去六个月的发展。他重点介绍了 2025 年 11 月的“拐点”，当时最佳模型在三大提供商间易手五次，最终 Claude Opus 4.5 胜出。更关键的是，编码代理从“偶尔可用”跨越到“日常可用”，显著减少了人工修复错误的时间。他还分享了个人项目 micro-javascript，一个用 Python 实现的 JavaScript 解释器，展示了多语言嵌套运行的技术趣味。演讲通过“鹈鹕骑自行车”SVG 测试直观对比模型能力，强调编码代理的进步是最大亮点。

行业 LLM 编码代理模型对比

推荐理由：Simon 用五分钟讲清了 LLM 过去半年的关键转折——编码代理从玩具变成生产力工具，做 AI 开发或重度使用编程助手的团队值得花五分钟了解这个趋势，看完会对模型选择和工具策略有更清晰的判断。

原文

10:25

官方一手arXiv: Anthropic@Nikola Milosevic

精选

本文提出一种双过程记忆架构，将即时情景记忆（固定10条消息窗口）与长期知识（约3 tokens/消息增长）解耦，解决LLM在科学协作中的上下文窗口饱和问题。在15,000条消息、跨6个模型（OpenAI、Anthropic、Google）的1,440次查询评估中，该架构在10,000条消息时仍保持70-85%准确率，延迟1-2秒，且比全上下文模型节省62% tokens。研究发现双过程架构在数值/时间查询上表现优异（65-90%准确率），而RAG在历史检索上更优（60-85%），并揭示了合成测试与现实工作流之间的“模拟到现实”差距。该架构成功管理了14,000+科学事实（125k tokens），证明领域特定记忆整合可支持超长上下文持续运行。

论文记忆架构科学智能体上下文窗口

事件专题

推荐理由：做科学计算或长期实验分析的AI开发者，终于有了对抗上下文饱和的实用方案——双过程架构直接省62% tokens还保持高精度，值得在长链推理任务中试试。

原文

10:12

官方账号arXiv cs.AI@Zhaoyue Sun, Hainiu Xu, Andero Uusberg, James J. Gross, Petr Slovak, Yulan He

精选

现有LLM情绪理解评估依赖离散标签预测，忽略了情绪产生的认知过程。研究者基于评价理论提出CAREBench，首个包含完整推理链注释的基准，涵盖评价推理、评价评分和多标签情绪标注，从第一和第三人称视角分析真实叙事。实验发现，强模型在某些任务上达到或超越人类，但在评价推理和积极情绪识别上仍有不足；模型在推理链步骤和评价干预敏感性上表现出分离现象，且未内化人类主观异质性的机制。这表明下游情绪预测指标可能高估了LLM的真实情绪理解能力，CAREBench为更诊断性的情感认知评估提供了基础。

论文 LLM 情绪理解评价理论

推荐理由：做AI情感计算或人机交互的团队，这个基准能帮你发现模型在情绪理解上的真实短板——别被下游指标骗了，建议点开看看评价推理链的设计。

原文

10:01

官方账号arXiv cs.AI@Ferhat Erata, Hao Zhou, Luke Huan

精选

研究人员提出了一种名为 fidelity probes 的方法，通过从代码中生成带真实答案的自然语言问题，来评估候选规格说明与代码的一致性。该方法将一致性分数分解为矛盾率和覆盖缺口率，从而指导规格说明的迭代改进。在包含约 12,000 行 COBOL 代码的基准测试中，经过八次迭代，规格说明的一致性从 0.63 提升至 0.94，且收敛点可通过两态马尔可夫固定点预测。探针可由 LLM 或静态分析管道生成，两者互补。该方法适用于任何应描述相同行为的成对工件。

论文代码-规格对齐 LLM 静态分析

推荐理由：做代码文档对齐或规格说明自动化的团队，可以拿这个方法直接改进现有流程——它用 LLM 和静态分析结合，能快速发现并修复规格与代码的不一致，迭代效率很高。

原文

5月18日

15:44

Gary Marcus@GaryMarcus

精选

Gary Marcus 在推文中批评纯 LLM 本质是自动补全，并以 Claude Code 为例指出近期进步来自引入符号技术和工具。他认为过去两年 AI 进展主要源于弥补纯 LLM 缺陷，而并非纯 LLM 本身。Marcus 强调理解进步来源才能进一步突破，核心是放弃纯 LLM 路线。

行业 GaryMarcus Claude Code LLM

推荐理由：马库斯怼纯LLM：进步靠符号AI

原文

12:14

官方账号arXiv cs.AI@Augusto B. Corrêa, André G. Pereira, Jendrik Seipp

精选

本文提出一种属性引导的LLM程序合成方法，用于PDDL规划领域。传统方法依赖简单分数（如测试通过数）评估程序，缺乏失败原因反馈，导致大量无效生成和评估。新方法在程序违反形式化属性时立即停止评估，并返回具体反例，引导LLM修复。在10个规划域上的实验表明，该方法平均每个域生成程序数减少7倍，无需搜索即可解决更多任务，评估计算量降低数个数量级。该方法适用于任何存在可验证属性的问题，能显著降低成本并提升程序质量。

论文程序合成 LLM 规划

推荐理由：做AI规划或程序合成的团队，这篇论文提供了一种减少LLM调用次数、提升生成效率的实用方法——用形式化属性替代分数反馈，直接给反例引导修复，值得点开看看具体实现。

原文

12:03

官方账号arXiv cs.AI@Tahreem Yasir, Wenbo Li, Sam Gilson, Sutapa Dey Tithi, Xiaoyi Tian, Tiffany Barnes

精选

一项新研究评估了七个大型语言模型（LLM）在命题逻辑辅导中的诊断精度，使用知识图谱生成的10,836个解决方案-反馈对作为基准。结果显示，LLM在识别最优步骤上接近完美，但系统性地过度拒绝有效但次优的推理，并过度验证错误的解决方案——这正是自适应辅导最需要精准反馈的地方。这些失败在所有模型中一致出现，表明是架构限制而非信息不足。此外，准确诊断并不总能转化为可操作的反馈，揭示了诊断判断与教学效果之间的差距。研究建议，LLM更适合混合架构，由知识图谱模型负责诊断，LLM负责开放式引导和对话。

论文 LLM 智能辅导系统教育AI

推荐理由：做AI教育或智能辅导系统的开发者会发现，LLM在关键教学诊断上存在系统性盲区——它擅长确认正确，却搞不定“部分正确”和“错误”的微妙区分，这直接影响辅导质量。建议点开看看混合架构方案，或许能帮你避开部署中的坑。

原文

11:52

官方账号arXiv cs.AI@Sarah Martinson, Michael P. Brenner, Martyna Plomecka, Brian P. Williams, Nicholas G. Reich, Zahra Shamsi

精选72°

研究团队提出一种利用大语言模型（LLM）引导树搜索的自主系统，可迭代生成、评估和优化传染病预测软件。在2025-2026年美国呼吸道季节的前瞻性实时评估中，该系统自主发现针对流感、COVID-19和RSV的多样化模型，其集成预测性能一致达到或超过CDC人工策划的黄金标准集成。系统成功应对RSV数据稀缺的“冷启动”场景，并通过优化对数尺度距离指标和自动裁判机制确保模型可靠性。该框架克服了建模人力瓶颈，使专家级疾病预测能快速部署到更细粒度的地理区域和新兴病原体。

论文 LLM 疾病预测树搜索

推荐理由：做公共卫生预测或传染病建模的团队，终于有了能自动生成专家级模型的工具，不用再靠人工反复调参——建议关注其开源代码和冷启动能力。

原文

10:32

官方账号arXiv cs.LG@Igor Bogdanov, Chung-Horng Lung, Thomas Kunz, Jie Gao, Adrian Taylor, Marzia Zaman

精选

FORGE 是一种无需梯度更新的智能体记忆进化协议，通过分层 ReAct 架构和群体广播机制，让 LLM 智能体从失败轨迹中生成可复用的知识（规则、示例或混合形式）。在 CybORG CAGE-2 网络防御任务中，FORGE 使所有 12 种模型配置的平均回报提升 1.7-7.7 倍（相比零样本基线），并降低严重失败率至约 1%。关键发现包括：群体广播是性能提升的核心机制，示例记忆对多数模型效果最佳，且较弱模型受益更显著。该工作为无需权重更新的智能体持续学习提供了新范式。

论文智能体记忆进化群体广播

推荐理由：做智能体持续学习和自主决策的团队——FORGE 用群体广播解决了记忆进化中的灾难性遗忘问题，无需微调模型权重，直接提升任务成功率。做网络防御或 POMDP 场景的开发者值得关注其低成本高回报的实践路径。

原文

5月17日

23:41

rohanpaul_ai@rohanpaul_ai

Meta 首席 AI 科学家 Yann LeCun 在 X 上发文，认为大型语言模型（LLM）在价值和投资上并非泡沫，它们将驱动大量实际应用并证明当前基础设施投入的合理性。但他同时警告，真正的泡沫在于认为 LLM 能成为人类级别的思考者。LeCun 的观点区分了 LLM 的实用价值与其认知能力的局限性，对当前 AI 投资热潮提供了冷静的视角。

行业 LLM Yann LeCun AI 投资

推荐理由：LeCun 一针见血地拆解了 LLM 的实用价值与认知泡沫，做 AI 投资或技术决策的人值得一读，避免被过度乐观的叙事带偏。

原文

23:41

rohanpaul_ai@rohanpaul_ai

精选76°

论文多智能体推理模型斯坦福

推荐理由：这篇论文戳破了多智能体系统“越多越好”的迷思，做AI推理和智能体架构的开发者看完会重新思考设计方向——先试一个强模型，别急着堆智能体。

原文

10:20

berryxia@berryxia

菲尔兹奖得主、数学家陶哲轩在访谈中指出，当前大模型背后的数学原理其实非常简单，仅涉及线性代数、矩阵乘法和微积分，本科生就能完全掌握。然而，真正令人困惑的是模型行为不可预测：它们在某些任务上表现惊人，在另一些任务上却突然翻车，且无法提前预判。陶哲轩认为，核心原因在于现实世界的自然语言数据处于“部分有序、部分随机”的中间地带，而数学界对此区域的理论还很薄弱。这一“简单机制 vs 不可预测行为”的矛盾，是当前AI最核心的谜题。

AI模型 LLM 数学基础陶哲轩

推荐理由：陶哲轩把LLM的底层数学和核心矛盾说透了，做AI研究或对模型能力边界好奇的人看完会恍然大悟，建议点开原文感受顶级数学家的洞察。

原文

09:37

rohanpaul_ai@rohanpaul_ai

精选

著名数学家陶哲轩指出，当前大语言模型（LLM）的训练和运行主要依赖线性代数、矩阵乘法和微积分，这些是本科生就能掌握的数学工具。然而，真正令人困惑的是为什么这些模型在某些任务上表现出色，而在其他任务上却失败，且无法提前预测。他认为，自然文本介于完全随机和完全结构化之间，而数学对中间状态的理解非常薄弱，类似于物理学在原子和连续介质之间的介观尺度面临的挑战。因此，尽管我们能描述LLM的机制，但无法解释能力跃迁或给出可靠的任务级预测。

论文 LLM 数学基础可解释性

推荐理由：陶哲轩点出了AI领域最核心的认知盲区——我们能用简单数学造出强大模型，却无法解释其行为，做AI研究或应用的开发者看完会重新思考“理解”的含义。

原文

5月16日

23:54

Geek@geekbb

精选

阿里巴巴发布了面向工业领域的大语言模型知识评测集 IndustryBench，包含 2049 道题目，题目来源为中国国家标准摘要和结构化工业产品记录。该评测集横跨 7 个能力维度和 10 个行业类别，旨在评估 LLM 在工业领域的知识掌握和推理能力。这是首个系统覆盖中国工业标准的评测基准，对工业智能化应用具有重要参考价值。

AI模型评测基准工业领域 LLM

推荐理由：做工业 AI 应用或评测的团队终于有了本土化的标准测试集——2049 道题覆盖 10 个行业，直接对标中国国家标准，建议做工业大模型落地的同学点开看看。

原文

23:40

Gary Marcus@GaryMarcus

Gary Marcus 在 X 上指出，他 2020 年于 arXiv 发表的《Next Decade in AI》论文提供了清晰的 AI 发展路线图，但至今无人给出严肃批评。他认为该路线图基本正确，只是超前于时代，现在领域开始追随。同时，用户 Aeon Flux 提出了一个从集中式 LLM 转向去中心化认知细胞（DCC）的概念路线图，强调硬件级伦理、持续学习和用户数据主权。Marcus 的言论引发了关于 AI 发展方向的讨论。

行业 Gary Marcus AI路线图去中心化AI

推荐理由：Gary Marcus 的路线图争议揭示了 AI 领域长期存在的方向分歧，关注 AI 伦理、去中心化或长期发展的研究者值得了解这场讨论。

原文

23:25

Gary Marcus@GaryMarcus

Gary Marcus在X上回应@Nima292，指出当前的大语言模型（LLM）并非通用人工智能（AGI），但已经会导致部分工作岗位流失。他认为，如果未来真正实现AGI，失业问题将更加严重。这一观点引发了关于AI对就业影响的讨论，提醒人们关注技术发展的社会后果。

行业 LLM AGI 失业

推荐理由：Gary Marcus的这条推文戳中了AI从业者和政策制定者的焦虑点——LLM已经带来失业，AGI会更糟。关心AI社会影响的人值得一看，看完会思考技术发展的代价。

原文

21:49

向阳乔木@vista8

本文用简洁的图示对比了三种主流大语言模型后训练技术：SFT（监督微调）让模型学会遵循指令；DPO（直接偏好优化）使输出更符合人类偏好；GRPO（群体相对策略优化）进一步激发模型的推理和思考能力。三者在训练目标和方法上层层递进，是当前LLM对齐和增强推理能力的关键技术路径。对于想了解模型训练流程或优化模型输出的开发者，这是一份直观的入门参考。

AI模型 LLM 后训练 SFT

推荐理由：想搞懂LLM后训练技术栈的开发者，这张图帮你三分钟理清SFT、DPO、GRPO的关系和演进逻辑，建议收藏。

原文

19:13

AI Engineer@aiDotEngineer

精选

Magnus Carlsen 的象棋应用需要解释走棋原因，而不仅仅是评估局面。由于 LLM 在推理棋局时容易产生幻觉，团队将工作拆分：Stockfish 负责评估，检测器提取战术概念，LLM 仅负责翻译成自然语言。整个流程在 Gemini Flash 上耗时不到 3 秒。用户可在应用内标记不佳的解说，反馈会通过 Slack 和 Claude Code 自动触发修复循环，甚至能在手机上合并 PR。

AI产品 LLM 国际象棋 Stockfish

事件专题

推荐理由：这个架构解决了 LLM 在专业领域推理不靠谱的痛点，做 AI 教练或需要解释复杂逻辑的开发者可以直接参考。

原文

11:40

11:40官方账号Simon Willison’s Weblog（博客/媒体）

Simon Willison 发布了 datasette-llm-limits 0.1a0 插件，与 datasette-llm 和 datasette-llm-accountant 配合使用，可为 Datasette 中的 LLM 调用设置按用户或全局的每日消费限额。配置示例显示，可以设置每个用户每天 1 美元的滚动 24 小时预算。这解决了多用户场景下 LLM 费用失控的问题，让 Datasette 管理员能精细控制 AI 功能的使用成本。

AI产品 Datasette LLM 插件/工具

推荐理由：做 Datasette 数据应用的管理员终于能控制 LLM 调用成本了——按用户设每日预算，防止 AI 查询烧光 API 额度，值得一试。

原文

5月15日

10:04

官方账号arXiv cs.AI@Yoshia Abe, Tatsuya Daikoku, Yasuo Kuniyoshi

精选73°

该研究提出了一种结合深度学习与大型语言模型（LLM）的系统，用于个性化图像审美评估。系统通过LLM进行半结构化访谈主动收集用户的审美偏好，并提取图像的高层语义特征与低层特征进行预测。实验表明，该系统在预测个体审美评价上优于传统模型、人类预测者，甚至目标个体自身的重新评估。尤其在高评分图像上表现突出，且预测误差小于个体自身的时间波动。研究暗示AI可能比他人或未来的自己更能捕捉特定时刻的个体审美偏好，引发AI能否成为比人类更深刻审美解释者的新问题。

论文 LLM 图像审美评估个性化推荐

推荐理由：这项研究解决了AI审美评估中主观性强的痛点，做个性化推荐、图像编辑或用户体验优化的团队值得关注——它用LLM访谈替代了传统问卷，效果甚至超过本人复评，建议点开看看实验设计。

原文

04:54

官方账号Andrew Ng@AndrewYNg

Andrew Ng 推出新课程《Transformers in Practice》，与 AMD 合作，由 Sharon Zhou 主讲。课程提供基于 Transformer 的 LLM 的实用视角，帮助理解其行为、诊断推理缓慢等问题，并做出更明智的部署决策。课程包含交互式可视化，而非纯视频，让学员动手探索概念。学员将掌握 LLM 幻觉原因、注意力机制、推理瓶颈诊断及 GPU 加速技术。

AI模型 Transformer LLM 课程

推荐理由：想真正理解 LLM 内部机制、诊断推理问题的开发者，这门课能帮你从黑盒用户变成懂原理的实践者，建议直接报名。

原文

5月14日

21:29

AK@_akhaliq

精选

一项新研究证明，仅通过修改大型语言模型中的一个神经元就能绕过其安全对齐机制。该发现揭示了当前对齐方法存在严重漏洞。在多个开源模型上验证后，修改单个神经元后模型生成有害内容的概率显著提升。论文分析了该神经元的激活模式与安全决策的关联。

论文 LLM 安全对齐神经元

推荐理由：改一个神经元就破防

原文

13:37

官方账号Andrej Karpathy@karpathy

精选

Karpathy 在 Sequoia Ascent 2026 炉边谈话中分享了三个核心主题。首先，LLM 远不止是加速现有工作（如编程），他举了三个新例子：menugen 应用完全由 LLM 驱动无需传统代码、用 .md 技能替代 .sh 脚本安装软件、以及基于 LLM 的知识库处理非结构化数据。其次，他深入解释了 LLM 的“锯齿状能力”模式——为何同一个模型既能重构十万行代码，又会建议你去洗车——这源于领域可验证性和经济因素（收入/TAM 决定训练数据分布）。最后，他展望了智能体原生经济，包括产品服务分解为传感器、执行器和逻辑，以及如何让信息对 LLM 更可读，并暗示了全神经计算的未来。

行业 LLM 智能体 Karpathy

推荐理由：Karpathy 把 LLM 的“锯齿状能力”和智能体原生经济讲透了，做 AI 产品、搞智能体开发的团队看完会对能力边界和落地方向有全新认知，值得点开细品。

原文

13:37

官方账号Andrej Karpathy@karpathy

精选

AI 研究员 Andrej Karpathy 在 X 上分享了一个实用技巧：在对话结束时让 LLM 将回答结构化为 HTML，然后在浏览器中查看生成的文件。他认为，音频是人类偏好的输入方式，而视觉（图像/动画/视频）是偏好的输出方式。他预测 AI 输出将从纯文本、Markdown 向 HTML 演进，最终走向交互式神经视频/模拟。他还指出，输入方面需要增加指向/手势等交互方式。目前阶段，他建议尝试让 LLM 输出 HTML 以提升信息接收效率。

技巧 LLM HTML 视觉输出

推荐理由：Karpathy 的这个技巧让 AI 输出从枯燥文本变成可视化页面，做演示、写文档或做数据分析的团队可以直接用，省去手动排版时间。

原文

13:27

官方一手arXiv: OpenAI@Andreas Maier, Jeta Sopa, Gozde Gul Sahin, Paula Perez-Toro, Siming Bayer

精选75°

一项研究复现了 Wu 等人（2026）的发现：多数前沿大语言模型在系统提示中包含软赞助线索时，会推荐价格约两倍的赞助航班。研究者对 10 个开源聊天模型和 2 个 OpenAI 模型（gpt-3.5-turbo、gpt-4o）进行了评估，发现原文的结论具有普遍性——例如 gpt-3.5-turbo 的赞助推荐率与原报告接近。关键发现是：一个仅 30 个 token 的用户提示（要求模型先提供中立对比表格）可将开源模型的赞助推荐率从 46.9% 降至 1.0%，OpenAI 模型从 53.0% 降至 0%。研究还揭示了复现过程中的三个隐性实现错误，表明仅靠文字描述不足以准确复现。

论文 LLM 赞助推荐提示工程

事件专题

推荐理由：这篇论文揭示了 LLM 推荐中的赞助偏见，并提供了一个极简的对抗方法——用 30 token 提示词就能大幅降低推荐偏差。做 AI 安全、推荐系统或 LLM 应用的开发者值得一看，可以直接复现实验。

原文

13:27

官方账号arXiv cs.AI@Or Ordentlich, Yury Polyanskiy

精选

本文是量化矩阵乘法研究的第二部分，探讨在第二因子列协方差矩阵已知时的量化策略，该场景常见于大语言模型的权重量化后训练。作者展示了经典的水填充法（waterfilling）如何改进现有LLM量化算法（如GPTQ），后者目前均匀分配比特率。分析表明，仅使用标量INT量化器的WaterSIC方案在高率下性能与信息论极限相差仅0.25比特/条目，且不受随机旋转影响。而GPTQ在随机旋转下与WaterSIC差距在0.1比特以内，表明其在高率下也接近最优。

论文量化 LLM 水填充法

推荐理由：做LLM量化的开发者终于有了理论指导——水填充法比均匀分配更优，GPTQ加随机旋转就能接近极限，建议做权重量化的团队点开看看具体实现。

原文

13:27

官方账号arXiv cs.AI@Mohammad Reza Mousavi

精选

一项新研究测试了 Gemini-3、GPT-5.4 和 Qwen-3.6 三个大模型对高级消息序列图（HMSC）语义的理解能力。HMSC 是 UML 序列图的基础，具有严格的形式语义。研究设计了 129 个语义任务，涵盖基本语义查询、抽象与组合、迹与标签转移系统计算。结果显示，LLM 整体准确率仅约 52%，其中基本语义理解较好（88%），但抽象与组合任务（36%）和迹与 LTS 任务（42%）表现很差。所有模型都未能理解共区域和显式因果依赖等概念。这表明 LLM 在形式化软件工程任务上仍有显著局限。

论文 LLM 形式语义软件工程

推荐理由：做形式化方法或软件建模的开发者会发现，LLM 对 UML 序列图语义的理解远不如预期，依赖 LLM 生成设计文档时需谨慎验证。

原文

13:26

官方账号arXiv cs.LG@Deepak Pandita, Flip Korn, Chris Welty, Christopher M. Homan

精选

生成式AI模型（如LLM）的普及使系统安全性和可信度评估变得至关重要，但当前AI领域面临可重复性危机，主要源于不可靠的评估和不可重复的实验结果。人类评估者引入的偏见和主观意见加剧了这一问题，而现有评估实践通常每个项目仅使用3-5个标注，且缺乏持久评估者标识。该研究提出一种多级自助法（bootstrapping）来建模标注者行为，利用大量标注数据和持久评估者标识，分析项目数量（N）与每个项目响应数（K）之间的权衡，以达成统计显著性。这项工作为改进评估可重复性提供了方法论基础。

论文可重复性评估方法标注者偏差

推荐理由：做AI评估和模型安全测试的团队，终于有了量化标注者偏差的方法论——多级建模直接告诉你需要多少标注才能得到可靠结论，建议做实验设计的点开看看。

原文

5月13日

21:36

21:36官方账号Simon Willison’s Weblog（博客/媒体）

Simon Willison 分享了一个技巧：在脚本的 shebang 行中直接调用 LLM，让自然语言文本文件像可执行脚本一样运行。最简单的用法是 `#!/usr/bin/env -S llm -f`，后面跟自然语言指令即可生成内容（如 SVG）。还可以通过 `-T` 选项调用工具（如获取当前时间写俳句），甚至嵌入 YAML 模板定义 Python 函数作为工具，实现复杂计算。这个模式让 AI 模型无缝融入 Unix 脚本生态，开发者可以直接用自然语言编写可执行脚本。

技巧 LLM shebang 脚本技巧

推荐理由：这个技巧把 LLM 变成了 Unix 脚本的一等公民，做自动化或 CLI 工具的开发者可以直接用自然语言写可执行脚本，省去解析参数的麻烦。

原文

21:36

21:36官方账号Simon Willison’s Weblog（博客/媒体）

LLM 命令行工具发布 0.32a2 版本，核心更新是支持 OpenAI 最新的 /v1/responses 端点，替代旧的 /v1/chat/completions。这意味着 GPT-5 等推理模型可以在工具调用时展示推理过程，用户运行提示时能看到彩色推理 token。新增 -R 或 --hide-reasoning 参数可隐藏推理输出。该版本还包含其他多项改进，适合使用 LLM 与 OpenAI 模型交互的开发者。

AI产品 LLM OpenAI 推理模型

事件专题

推荐理由：LLM 用户终于能直观看到 GPT-5 等模型的推理过程了，做 AI 工具链和命令行调用的开发者值得升级体验。

原文