Primary sourcerohanpaul_ai
View sourceEvent ·Single source
UCLA 与 Northeastern 论文:AI 智能体约 18% 输出 token 属于可删废料
UCLA 与 Northeastern University 的论文测算,AI 智能体的输出 token 中约 18% 是可移除的废料,删掉后任务成功率几乎不受影响。传统按总 token 计费的方式无法区分哪些 token 真正做了有用工作,哪些只是在重复策略、重新拉取文件或走入死胡同。 研究方法是把智能体调用路由经过一个代理层,由 LLM judge 标注可删除的文本片段,然后删掉这些片段并重跑智能体验证任务是否正常。实验覆盖 6 个前沿模型和 4 个基准。对 Kimi-K3 的推理过程做重复与填充词修剪后,在 SWE-bench Verified 上删除了 41% 的输出,成功率从 89.0% 变为 89.5%,几乎持平。 对开发者而言,降低智能体成本的关键是定位任务和 harness 产生的浪费来源,而不是简单设置 token 上限。
Current read
跑过 agent 的都知道账单有多吓人。这篇论文用 LLM judge 找出哪些 token 是纯浪费,Kimi-K3 在 SWE-bench Verified 上删掉 41% 输出成功率还微升。做 agent 成本优化的开发者可以照这个思路搭个代理层试试。
2 sources51° AI heatLast updated 2026/11/9 12:14:40
Evidence
2 sourcesRelated source 1Together AI
View sourceConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.