LLM 相关 AI 资讯

行业18:31

Meta员工警告AI内容审核推进过快

Meta要用AI替代大半人工审核，员工都觉得太快了，看看他们担心什么

#Meta #内容审核 #员工警告 #LLM

官方账号Decoder@Maximilian Schreiner原文

论文10:47

RevengeBench：从行为实验逆向工程代码策略

这篇论文出了个RevengeBench基准，能从行为实验反推LLM的策略代码，测了12个模型恢复率34%-72%，弱模型受益最大。

#RevengeBench #CodeClash #LLM #逆向工程

arXiv cs.LG@Babak Rahmani 等 5 人原文

论文10:40

多步工具使用强化学习为何崩溃及监督信号如何修复

这篇论文分析了多步工具RL训练容易崩溃的原因，并实验证明交错SFT与RL能有效提升稳定性，对做智能体RL的人很有参考价值。

#LLM #强化学习 #工具使用 #SFT

arXiv cs.LG@Yupu Hao 等 5 人原文

论文精选73°10:30

LatentMAS 被 ICML 2026 接收为 Spotlight，多智能体在潜在空间协作

ICML 2026 spotlight！这帮人让多智能体在潜在空间用思想沟通，不用说话，比传统文本交互快4倍，准确率还高14.6%。

#LatentMAS #ICML #多智能体系统 #潜在推理

AI Will@FinanceYF5原文

论文10:29

人类研究评估LLM辅助漏洞修补的效果

这篇论文设计了一个人体实验，对比开发者用LLM辅助和手动修补漏洞的速度与安全性，还用了隐藏测试验真假补丁。

#LLM #漏洞修补 #AI安全 #人体实验

arXiv cs.AI@Giulian Biolo 等 4 人原文

行业多源确认精选73°09:42

Loop Engineering 反思：循环放大 LLM 代码缺陷与认知依赖

Mitsuhiko 深入剖析了 Loop Engineering 的两层循环，指出循环会放大 LLM 代码的缺陷，并讨论了我们可能失去判断力的风险。对 AI 编程陷阱感兴趣的朋友值得一看。

#Loop Engineering #LLM #Claude Code #判断力

事件专题

shao__meng@shao__meng3 个信源在谈原文

模型09:38

MiniOpt: 用强化学习推理建模并解决通用优化问题

想用小型模型搞定各种优化问题？MiniOpt用3B参数就做到了不错的效果，而且代码开源随便玩。

#MiniOpt #强化学习 #优化 #开源模型

arXiv cs.AI@Ke Zhao 等 12 人原文

行业02:54

Tom MacWright 批评AI生成的求职材料千篇一律

Tom MacWright 指出用LLM写简历和GitHub项目只会让HR觉得你不真实。求职千万别这么干。

#Tom MacWright #AI求职 #LLM #简历

官方账号Simon Willison’s Weblog原文

产品中美对照多源确认93°21:57

OpenAI发布首款自研AI芯片Jalapeño，与Broadcom合作生产

OpenAI自己造芯片了，名字叫Jalapeño，专跑ChatGPT和Codex那类LLM任务，还拉上Broadcom合作量产。

#OpenAI #Jalapeño #Broadcom #芯片

事件专题

官方账号OpenAI@OpenAI11 个信源在谈原文

模型精选15:24

SPIRAL：用强化学习统一LLM测试时多种推理计算方式

斯坦福团队发了SPIRAL，让LLM训练时就学会并行采样和聚合答案，不是只会单链思考，更符合实际推理场景。

#SPIRAL #LLM #强化学习 #推理模型

Stanford AI Lab@StanfordAILab原文

论文12:08

多轮LLM对话中NFR评估的准确性与满意度

这篇论文用49个程序员和148个实例，实测了GitHub Copilot评估HIPAA合规NFR的准确度，发现开发者容易被带偏，但主动交互反而让人更满意。

#LLM #NFR #HIPAA #GitHub Copilot

arXiv cs.AI@Ali Pourghasemi Fatideh 等 5 人原文

论文11:51

Grad Detect：基于梯度的LLM幻觉检测方法

这篇论文教你用梯度信号抓幻觉，比看置信度准得多，而且发现只看最后5层就够了，省算力。

#Grad Detect #幻觉检测 #LLM #梯度分析

arXiv cs.LG@Anand Kamat 等 3 人原文

论文精选11:47

FlowPipe：LLM增强条件生成流网络构建数据管道

自动搭数据管道的难题，FlowPipe用LLM+生成流网络解决了，74个数据集上准确率升12%，训练快12倍多，比老方法强一截。

#FlowPipe #LLM #C-GFlowNets #数据预处理

arXiv cs.LG@Kunyu Ni 等 7 人原文

产品07:10

Aisle用开源模型匹配Mythos零日漏洞发现，伯克利排名前三

Aisle用开源小模型加搜索，在零日漏洞发现上追平了Mythos，伯克利8项里拿了3项第一，还能离线跑，挺牛的。

#Aisle #Mythos #LLM #零日漏洞

Ian Goodfellow@goodfellow_ian原文

模型00:57

PlanBench-XL：在大型工具生态中评估LLM智能体的长程规划

想看看你用的LLM在多工具长流程场景下到底多靠谱？PlanBench-XL用上千个工具设计了真实任务链，测出来主流模型成功率不到40%，值得一测。

#PlanBench-XL #LLM #智能体 #工具使用

AK@_akhaliq原文

论文13:28

提示条件语言模型作为通用学习器的局限性

这篇论文用理论证明告诉你，为什么光靠提示词调教，LLM永远无法解决所有任务，别盲目相信'万能模型'的宣传。

#LLM #提示学习 #模型限制 #理论分析

arXiv cs.LG@David Mguni 等 3 人原文

论文政策与合规13:27

MAS-PromptBench: 提示优化何时提升多智能体LLM系统性能？

这篇论文把多智能体系统里调提示词的效果讲清楚了，有实验数据告诉你啥时候有用啥时候没用，不是玄学。

#MAS-PromptBench #多智能体系统 #提示优化 #LLM

arXiv cs.LG@Juyang Bai, Laixi Shi原文

论文13:15

开放问题：AdamW在重尾噪声下是否有效？

AdamW天天用但理论有坑，这篇论文把收敛性列为开放问题，还给出了新分析框架。做LLM训练优化的人该看看。

#AdamW #LLM #重尾噪声 #优化器理论

arXiv cs.AI@Dingzhi Yu 等 5 人原文

论文13:13

教授LLMs字符串匹配、回溯和错误恢复以推导位操作谜题的基和真值表

这篇论文用字符串相似度和回溯搜索替代了算术逻辑，让LLM在位操作谜题上验证精度超过96%，比赛第7名，方法很巧妙。

#NVIDIA #Nemotron #Bit Manipulation Puzzles #推理模型

arXiv cs.AI@Prateek Agnihotri 等 5 人原文

论文13:10

AI暴露评分：衡量了什么、遗漏了什么、下一步是什么

这篇论文拆解了被广泛引用的GPT暴露评分到底靠谱不，指出静态评分的坑，还给出了五类改进方向，搞AI政策或研究的人值得一看。

#GPT #Exposure Scores #LLM #工作自动化

arXiv cs.AI@Campbell Lund 等 4 人原文

论文12:50

Causal Discovery in the Era of Agents: 论文提出代理应辅助而非替代因果推断

这篇论文给了一个清晰的边界：AI代理该帮什么、不该帮什么。causal-learn+平台演示了如何让LLM辅助分析数据，但不越界做因果推断。

#causal-learn+#LLM #因果发现 #智能体

arXiv cs.LG@Yujia Zheng 等 6 人原文

论文12:03

随机性的起源：大语言模型不确定性量化的全面研究

这篇论文把LLM不确定性拆成四个层面，测了21种方法在多个基准上的效果，结论是共识方法最稳，模型越大越不模糊。

#LLM #不确定性量化 #Qwen3 #Llama 3.2

事件专题

arXiv: DeepSeek@Xiang-Jun Ou 等 6 人2 个信源在谈原文

论文11:10

PAPERCLAW：基于智能体的自主研究与人在回路优化

想用AI帮你从头到尾写论文？PAPERCLAW能自动搜文献、定假设、跑实验、写全文，你还能中途插手改方向。

#PAPERCLAW #多智能体 #自主研究 #论文生成

arXiv cs.AI@Weiwei Ye 等 4 人原文

论文11:08

Text2DSL: LLM-Based生成领域特定语言代码的新任务与PolkitBench数据集

这篇论文定义了Text2DSL任务，带了一个4204条规则的数据集PolkitBench，还发现喂给模型语法规则能让代码生成质量暴增，不用微调。

#Text2DSL #PolkitBench #DSL #代码生成

arXiv cs.AI@Alexander V. Kozachok 等 3 人原文

论文10:55

LLM编排代理用于定向耦合器设计带自洽本征模与FDTD验证

这篇论文让LLM指挥本征模和FDTD模拟自动设计定向耦合器，误差仅0.0017，省去手动调参的麻烦。

#LLM #FDTD #定向耦合器 #智能体

arXiv cs.AI@Saumya Biswas 等 3 人原文

论文10:38

论文：IoT数据预处理缩小边缘与云端AI性能差距

把传感器数据预处理成文字提示，小模型准确率能从50%涨到89%，延迟才0.22秒，不比云端差。

#LLM #IoT数据预处理 #边缘AI #提示工程

arXiv cs.LG@Aygün Varol 等 8 人原文

论文10:36

全绿仍崩溃：LLM集成多市场Web应用验证教训

这篇论文用252个真实bug数据，告诉你怎么测试全绿依然出bug，给所有做LLM应用的人敲响警钟。

#LLM #多市场 #Web应用 #软件测试

arXiv cs.LG@Muhammad Bilal, Ali Hassaan Mughal原文

论文10:32

Deezer用LLM自动生成播放列表描述，提升用户参与度

Deezer用LLM给每日推荐写标题，百万用户真用上了，参与度还涨了——不是PPT，是上线产品。

#Deezer #LLM #播放列表生成 #推荐系统

arXiv cs.LG@Mathieu Delcluze 等 5 人原文

论文多源确认10:24

理论工具箱：基于智能体的LLM辅助经济理论研究工具

这篇论文为你演示了如何用LLM做经济理论研究，重点不是让模型生成答案，而是设计验证流程来确保结果可靠，三种方法对比很清楚。

#LLM #经济理论 #验证协议 #多智能体

事件专题

arXiv: OpenAI@Moran Koren11 个信源在谈原文

产品 Agent 与开发者03:45

GitHub用LLM上下文验证减少秘密扫描误报75.76%

GitHub发现用LLM做上下文校验能让密钥扫描告警更准，误报少了四分之三，安全团队不用天天看假警报了。

#GitHub #LLM #secret scanning #AI安全

GitHub@github原文

行业07:26

Gary Marcus批LLM公司夸大AI取代工作，预测2025年少于10%岗位被替代

Gary Marcus戳破LLM公司的裁员恐慌话术，还甩出了具体预测数据。告诉你别被炒作了，AI也在创造新岗位。

#Gary Marcus #Justine Moore #AI工作替代 #LLM

Gary Marcus@GaryMarcus原文

论文政策与合规11:06

安全对齐的LLM从混合合规示范中学到了什么

这篇论文解释了为什么不同的合规示范会以不同方式影响模型，帮你理解LLM的jailbreak机制，不只是实证而是分析原理。

#LLM #jailbreak #demonstration #in-context learning

arXiv cs.LG@Sihui Dai, Mann Patel原文

论文11:04

利用眼动与鼠标轨迹获取用户隐式偏好：IFLLM数据集提升LLM对齐效果

别光看用户点了什么赞，鼠标和眼睛动的方向才是真心话。这篇论文用59人的眼动和鼠标轨迹数据训练奖励模型，准确率从55%飙到64，还开源了数据集。

#IFLLM #LLM #隐式反馈 #DPO

arXiv cs.LG@Haw-Shiuan Chang 等 5 人原文

论文10:13

编辑对齐：让编辑专家参与LLM知识传播的参与式方法

这篇论文通过具体案例展示了如何让编辑参与对齐LLM，帮助公共知识机构保持编辑标准，实操性强且有启发性。

#编辑对齐 #参与式AI #LLM #知识传播

arXiv cs.AI@Simon Aagaard Enni 等 4 人原文

论文10:11

MACR框架：显式消解LLM参数与上下文知识冲突

这篇论文提出了MACR，能帮LLM自己判断知识是否可靠并解决矛盾，比过去的方法强不少，还能解释冲突。

#LLM #MACR #知识冲突 #多智能体

arXiv cs.AI@Huang Peng 等 5 人原文

论文10:08

ScholarQuest：面向开放文献的学术论文搜索智能体基准

想测你的LLM论文搜索智能体？ScholarQuest 给了1000多个主题和4种意图的标准测试，最强方法才0.314召回，你的能提多少？

#ScholarQuest #LLM #智能体 #学术搜索

arXiv cs.AI@Tingyue Pan 等 7 人原文

论文10:07

QMFOL：通过量化一元一阶逻辑测试生成评估大模型推理

这篇论文提出了一个更好的推理测试方法QMFOL，能精细控制逻辑难度，用来测LLM推理能力更准。

#QMFOL #LLM #推理 #基准测试

arXiv cs.AI@Xinyi Zheng 等 6 人原文

技巧 Agent 与开发者官方一手精选02:52

Cloudflare教你构建自己的漏洞检测工具

Cloudflare公开了他们内部用的漏洞检测工具怎么做，从状态管理到对抗审查都讲了，想自己搭自动化安全工具的可以抄作业。

#Cloudflare #漏洞检测 #自动化 #LLM

官方一手Cloudflare Blog@Grant Bourzikas原文

行业11:59

LLM推荐流量占顶级零售商近2%，一年增三倍

AI现在真的能帮你买东西了！LLM给Walmart、Target带来的推荐流量一年涨了三倍，电子产品最明显，做决策前让AI推荐更靠谱。

#LLM #Walmart #Target #推荐流量

AI Will@FinanceYF5原文

行业11:58

LLM为Walmart、Target等零售商贡献近2%推荐流量，一年增长3倍

想知道LLM怎么帮沃尔玛、塔吉特带货的吗？推荐流量占比快2%，一年翻三倍，电子产品最吃香。

#LLM #Walmart #Target #AI推荐流量

AI Will@FinanceYF5原文