LLM 相关 AI 资讯

论文 Agent 与开发者14:50

六款开源模型自动提取间作研究数据，零样本提示效果最好

农业 meta 分析要人工翻文献提数据，太累。这篇用六款开源模型测了三种提取方法，零样本最靠谱，但 F1 才 0.577，离能用还有距离。

#开源模型 #多智能体 #meta分析 #LLM

arXiv cs.AI@Zehao Lu 等 5 人原文

论文 Agent 与开发者14:49

机制研究：语言模型如何检测并定位内部激活扰动

给想让 LLM 报告内部状态靠谱一点的人：这篇用 attention head 层面拆解了模型怎么发现和定位被注入的激活扰动。

#可解释性 #注意力头 #LLM #arXiv

arXiv cs.AI@Jiahong Zou 等 4 人原文

论文 Agent 与开发者14:42

研究显示 LLM 在工具调用场景下拒绝有害请求的阈值更高

做 Agent 的人该看看这篇：同一模型在工具调用时比纯聊天更容易放行有害请求，安全测试可能测不出这个坑。

#LLM #工具调用 #AI安全 #智能体

arXiv cs.AI@Abel Rodríguez 等 4 人原文

技巧 Agent 与开发者13:50

斯坦福 CS329Z 第二讲：Agent 工程师的大模型原理

斯坦福 CS329Z 第二节课上线了，专门讲做 Agent 需要懂的大模型底层原理，想自己动手搭 Agent 的朋友可以看看

#Agent #CS329Z #斯坦福 #LLM

shao__meng@shao__meng原文

论文 Agent 与开发者13:38

TAIP 引擎为 CI 流水线中的 LLM 安全审计提供持续保障

CI 里用 LLM 审代码不放心？这篇给出把审计证据版本化、策略一改就 1.1ms 内重算保障态势的工程方案，数据还挺扎实。

#LLM #RepoAudit #gpt-4o-mini #CI/CD

arXiv: OpenAI@Guy Lupo 等 7 人原文

论文 Agent 与开发者13:27

arXiv 研究：分析 200 万条 LLM 引用数据，找出页面被引用的关键因素

搞 SEO 或 AEO 的朋友该看看：分析了 200 万条 ChatGPT、Claude 等引用数据，发现堆 FAQ、加结构化数据没啥用，内容和用户提问匹配度才是关键。

#LLM #ChatGPT #Claude #AEO

arXiv cs.AI@Ben Moore, Liam Dunne原文

论文 Agent 与开发者10:50

Prompt Minimization：压缩提示词长度而不损失输出质量

arXiv 上这篇论文教你把提示词砍到最短还不掉输出质量，还给了三个可操作的压缩框架，写 prompt 的人可以看看怎么省 token。

#提示词工程 #Prompt Minimization #LLM #输入压缩

arXiv cs.AI@Marius F. R. Juston 等 5 人原文

模型中美对照10:48

Kaggle 推出 Game Arena：用对弈游戏评估大模型策略能力

Kaggle 做了个让模型下棋、打扑克、玩狼人杀互相打分的评测场，比静态跑分更能看出策略水平，可以直接看各家模型的对局结果。

#Kaggle #Game Arena #LLM #基准测试

arXiv cs.AI@Bovard Doerschuk-Tiberi 等 62 人原文

论文 Agent 与开发者10:47

PriceBench：用酒店预订任务测量 28 个 LLM 的价格与品牌偏好

同一批酒店任务，28 个模型选出的房价能差 150 美元，这篇论文把这个差异量化出来了，做购物或预订代理的人应该看看。

#PriceBench #LLM #智能体 #评测基准

arXiv cs.AI@Pavel Kireyev原文

论文 Agent 与开发者10:43

SeLATM 论文提出分段级智能体主题建模框架，降低 LLM 资源消耗

一篇处理长文档主题建模的论文，把文档切段再生成主题，用智能体反馈细化，比逐篇分配主题省不少 token，做文本分析可以看看。

#SeLATM #主题建模 #智能体 #LLM

arXiv cs.AI@Myeongjun Erik Jang 等 4 人原文

论文政策与合规10:25

Belief Self-Distillation：让 LLM 的用户信念可读可写

这篇论文挺有意思：模型会偷偷猜你是谁，作者把这份'猜测'读出来还能改写，改了它连拒绝行为都跟着变。

#AI安全 #LLM #可解释性

arXiv cs.LG@Ali Holmov 等 4 人原文

论文 Agent 与开发者10:08

Mutable Transcripts：可编辑对话历史减少上下文污染

有人把聊天记录做成了可编辑的：改一句话，历史里过时的内容直接消失，17 人实测大家都更喜欢，代码还开源了。

#上下文污染 #对话系统 #LLM #用户研究

arXiv cs.AI@Dan Barry, Andrew Hines原文

论文 Agent 与开发者10:03

区块链加持的智能体安全框架：保护软件供应链全生命周期

这篇论文把 LLM 驱动的安全智能体和区块链结合，每次分析结果都签名上链，能给出可验证的放行或拦截决策，做 DevSecOps 的可以看看。

#智能体 #软件供应链 #SBOM #区块链

arXiv cs.AI@Toqeer Ali Syed, Asadullah Abdullah Khan原文

论文09:19

实证研究：LLM 在日志异常检测中的性能、效率与鲁棒性

一篇把 LLM 做日志异常检测的选型问题拆开讲的论文：哪类适配策略有效、量化掉不掉点、噪声下稳不稳，做运维或 AIOps 的可以看看。

#日志异常检测 #LLM #模型量化 #AIOps

arXiv cs.LG@Bin Li 等 3 人原文

论文09:06

论文：数据归因估计结果不一致，根源在于反事实规范差异

做数据归因或模型调试的朋友可以看看，它解释了为什么不同影响力估计方法排序对不上，还给出对齐行为规范的具体做法。

#数据归因 #LLM #影响函数

arXiv cs.LG@Zhe Li 等 4 人原文

论文 Agent 与开发者多源确认09:00

研究：82% 的 LLM 应用在模型下线后才迁移

有人挖了两万多个 GitHub 提交，发现八成应用都是等模型下线报错了才迁移，数据里还有迁移成本的具体行数。

#OpenAI #Anthropic #LLM #模型退役

事件专题

arXiv: Anthropic@Hyungjin Lukas Kim11 个信源在谈原文

模型 Agent 与开发者多源确认05:56

Sebastian Raschka 简评 Ember-1：靠后训练打造前沿模型

Raschka 简评了 Ember-1，还顺带说了句实在话：小预算做前沿模型，与其从头训练，不如把钱花在后训练上。

#Ember-1 #后训练 #LLM

事件专题

官方账号Sebastian Raschka@rasbt3 个信源在谈原文

技巧 Agent 与开发者精选22:25

Reasoning from scratch 第5讲：对数概率打分与自我改进

Raschka 又更新了，这期手把手教你用 PyTorch 算 token 概率给模型答案打分，还搭了一个 self-refinement 循环，最后跑 MATH-500 看效果。

#PyTorch #推理模型 #MATH-500 #对数概率

官方账号Sebastian Raschka@rasbt原文

模型 Agent 与开发者72°22:15

用户用 Qwen3.8-Flash-Next-Uncensored 破解 IDM 引发授权争议

有人花 5 欧元租 GPU，让无审查版 Qwen 三十分钟改一个字节就破解了 IDM，这帖子把 AI 逆向能力聊得很具体。

#Qwen #IDM #逆向工程 #LLM

事件专题

IT之家2 个信源在谈原文

论文 Agent 与开发者精选73°19:39

研究称可训练 LLM 自主发现有趣定理，趣味度提升 4.3 倍

研究者教 LLM 自己判断定理有没有意思，趣味度提升 4.3 倍，还搞了个自动发现循环，做数学方向的朋友看看。

#LLM #定理证明 #自动发现 #数学

Thomas Wolf@Thom_Wolf原文

论文 Agent 与开发者73°06:43

LeCun 的自回归批评被"输出错误 token"训练回怼了吗？

有人拿"模型会喊 oops 然后改错"这个训练行为，去质疑 LeCun 那套自回归不能纠错的老论点，争议点很具体。

#Yann LeCun #自回归 #推理模型 #LLM

Teortaxes@teortaxesTex原文

技巧 Agent 与开发者00:06

Simon Willison：编程智能体让软件工程变得更难

Simon Willison 说了句大实话：编程智能体不是让写代码变简单，而是要求你有更高的工程素养才能用好。

#coding-agents #LLM #编程助手 #软件工程

官方账号Simon Willison’s Weblog原文

行业多源确认精选73°22:03

Gary Marcus 与 Nate Silver 隔空争论 LLM 是否只是"随机鹦鹉"

Gary Marcus 和 Nate Silver 打起嘴仗了，吵的是现在的大模型到底还算不算"随机鹦鹉"，两边观点都挺典型，看看你站谁。

#Gary Marcus #Nate Silver #LLM #神经符号AI

事件专题

Gary Marcus@GaryMarcus7 个信源在谈原文

论文中美对照73°19:46

冯·诺依曼也是“巨型记忆检索”：LLM 能否提出新解法

LeCun 说 LLM 只是记忆检索不能创造，这条帖子拿冯·诺依曼和权重不存事实来反驳，角度很别致。

#LLM #Yann LeCun #推理模型 #AI安全

Teortaxes@teortaxesTex原文

论文 Agent 与开发者10:33

BRIE：可持续更新的电子病历信息检索基准

19 位医生参与验证的 EHR 检索基准 BRIE，能自动生成题目并持续更新防泄漏，测了 9 个模型，做医疗 AI 评测的可以看看。

#BRIE #LLM #电子病历 #RAG

arXiv cs.AI@Jordan L. Cahoon 等 26 人原文

论文 Agent 与开发者10:32

SAGE：用拓扑引导缓解大模型长程推理偏差

一篇讲怎么修大模型长程推理的方法论文，用代数稀疏化加双曲空间嵌入两种结构引导，12 个基准、7 个模型家族验证，Andrews-Curtis 问题提升 8 倍，代码已开源。

#SAGE #长程推理 #LLM #稀疏奖励

arXiv cs.AI@Xinyue Zeng 等 4 人原文

论文 Agent 与开发者10:30

Roblox 提出搜索感知强化学习框架优化查询理解

Roblox 把游戏搜索的查询理解拆成多组件，用搜索引擎实时反馈做奖励来训练 LLM，NDCG@20 提了 8.9 点，做法挺特别。

#Roblox #强化学习 #查询理解 #LLM

arXiv cs.AI@Nayoung Choi 等 9 人原文

模型 Agent 与开发者09:38

快手发布 SEEK 框架：技能路由让 LLM 自动评估搜索质量

快手把搜索评估标准拆成技能库，按需路由、不重训就能更新规则，做搜索评估的可以看看这篇。

#SEEK #快手 #LLM #搜索评估

arXiv cs.AI@Zhongxin Huang 等 8 人原文

论文 Agent 与开发者09:33

Env-Rethink：用27B模型改造LLM智能体环境实现递归自我提升

一篇讲怎么给智能体造更难环境的论文，27B 模型自动改环境，9 个模型平均涨 15% 通过率，做 Agent 训练的可以看看。

#Env-Rethink #智能体 #LLM #论文

arXiv cs.AI@Yukai Wu 等 10 人原文

产品 Agent 与开发者00:44

Jacob 为 LLM 打造专用游戏引擎

有人专门给 LLM 造了个游戏引擎，从底层就为模型生成设计，做出来的东西传统引擎根本做不了。

#LLM #游戏引擎 #生成式游戏

Matt Shumer@mattshumer_原文

技巧 Agent 与开发者00:43

提示词技巧：让模型模仿知名提示词作者的风格来写提示

Matt Shumer 分享的实用提示词技巧：直接问模型“他会怎么写这个提示”，借用训练数据里的风格提升输出，试试就知道。

#提示词工程 #Matt Shumer #LLM

Matt Shumer@mattshumer_原文

论文精选73°00:14

论文揭示 LLM 推理的内部结构：8 种推理操作各有独特模式

这篇论文把推理拆成 8 种操作看模型内部活动，算错了签名还是对的，做对齐和可解释性的人会很有兴趣。

#推理模型 #可解释性 #Chain-of-Thought #LLM

rohanpaul_ai@rohanpaul_ai原文

论文 Agent 与开发者多源确认73°23:16

Anthropic 生物学发布遭冷思考：新酶系统仅在大肠杆菌中表达验证

有人泼冷水了：Anthropic 说的这个新酶系统，目前只在大肠杆菌里表达过一次，原理都没搞清，但思路确实有意思。

#Anthropic #生物发现 #LLM #假设生成

事件专题

Tanishq Abraham (论文推介)@iScienceLuvr11 个信源在谈原文

论文 Agent 与开发者精选11:05

arXiv 论文：LLM 能否识破造假的量化回测？

量化圈的朋友看过来，这论文测了 LLM 审回测靠不靠谱，DeepSeek 召回满分但一不留神就把好策略全打假，方法设计挺有意思。

#DeepSeek #LLM #回测审计 #量化金融

arXiv: DeepSeek@Makar Ulesov 等 4 人原文

论文11:04

StudentBench 研究显示 AI 辅导 GRE 学习效果与人类导师相当

斯坦福团队做了个 StudentBench，拿 2383 人测 AI 教 GRE，效果跟人类导师打平，价格便宜 918 倍，数学部分回得越快学生学得越好。

#StudentBench #GRE #LLM #AI教育

arXiv cs.AI@Curtis Northcutt 等 6 人原文

论文 Agent 与开发者11:03

SWE-Flux：仓库级代码执行推理基准，最佳模型仅得 37%

一个新的代码执行推理基准，480 道题来自真实仓库的测试执行，最强模型才 37 分，看看你常用的模型到底会不会“跑”代码。

#SWE-Flux #LLM #代码推理 #基准测试

arXiv cs.AI@Hamed Taherkhani 等 6 人原文

论文 Agent 与开发者10:35

研究：购物 AI 代理会像人类一样被定价线索误导

8 个商用 LLM 当购物代理，一旦要花钱查信息就学人类贪便宜，研究提示词写法能救回来，做电商的都该看看。

#LLM #Tool-Lab #智能体 #AI安全

arXiv cs.AI@Davood Wadi, Yu Ma原文

论文 Agent 与开发者10:31

COMPASS：用空间 Transformer 实现大规模多机器人集群控制

多机器人协作的新玩法：COMPASS 让一群机器人自己本地算反馈，最多能带 1024 台一起飞，比集中式 LLM 策略稳不少。

#COMPASS #空间Transformer #多机器人 #LLM

arXiv cs.AI@Frederic Vatnsdal 等 5 人原文

论文 Agent 与开发者10:28

PASTABench 基准测试：智能体主动安全干预仍未解决

这个叫 PASTABench 的新基准测了 16 个大模型给智能体踩刹车的时机，最好的也只拿到 40.74%，还拆穿了不少小模型靠关键词得分。

#PASTABench #智能体 #AI安全 #LLM

arXiv cs.AI@Jiapeng Sun 等 7 人原文

论文 Agent 与开发者09:23

研究评估预训练模型对 AI 生成教育题目的布鲁姆分类效果

想做 AI 出题自动质检的可以看看：论文实测了 LLM、BERT、传统 ML 在布鲁姆分类上的 OOD 表现，LLM 拿到 0.79 的 F1，还给了几个低成本补救手段。

#Bloom Classifier #LLM #BERT #教育评估

事件专题

arXiv cs.AI@Michael Lawrence Castanares 等 3 人2 个信源在谈原文