跑 Agent 最怕 token 预算失控,这篇论文的 TokenCast 能边执行边预测消耗,实测省 21.3% 的 token,做 agent 的都该看看。
#token成本
共 17 条 · 7 天 0 条 · 30 天 8 条
信息流里打上「token成本」标签的资讯、产品与论文,按刊登时间排,新的在上。
9月29日
TokenCast 论文:预测 LLM Agent 执行中的 Token 消耗
9月28日
9月24日
Cursor 团队分享优化 Agent harness 省成本的提示词
Cursor 团队把内部学到的省 token 方法打包成一个提示词,直接喂给你的 agent 就能系统性降成本,还有真实案例数据。
9月23日
9月15日
GPT-6 Astra 在 ARC-AGI-3 基准测试中登顶,同时降低 token 成本
DeepLearningAI 分析了 GPT-6 Astra 的最新表现,它不仅登顶了 ARC-AGI-3 基准测试,还降低了 token 成本,对开发者来说很实用。
9月11日
9月9日
8月26日
8月14日
8月7日
8月6日
8月1日
7月14日
6月6日
Token成本证明不会有SaaS末日:好工具是智能体的缓存智能
这篇实测数据直接打脸了“智能体将消灭所有软件层”的论调,做AI工具和智能体开发的团队值得一看——它告诉你为什么好的CLI和SDK反而更值钱了。
5月29日
论文18:55
LLM 上下文管理效率前沿:短上下文可节省 25% 以上 token做 LLM 部署优化的团队终于有了量化工具——这篇论文告诉你何时该用检索、何时该用记忆压缩,直接帮你省 token 成本,建议做推理优化的工程师点开看具体方法。