技巧精选

看每个 task 的成本,不只看每个 token 的成本

看每个 task 的成本 不只看每个 token 的成本 在 chatbot 阶段,我们关注每个 token 的成本,因为它是单轮的,input 和 output 我们可以限制。 但在 agent...

精选理由

选 agent 模型别光看 token 单价,这帖讲了 task 成本公式,实测 DeepSeek 比 Fable 总成本低 105 倍。

AI 摘要

在 chatbot 阶段只需关注每个 token 的单价,而 agent 任务会进行多轮 loop、tool call 和代码执行,总 token 消耗与轮数影响更大。Cline 指出,仅比较 DeepSeek V4-Flash 与 Fable 的每 token 价格会误导,因为轮次增多可能导致单任务总成本更高。计算单个任务成本需综合 token 消耗总数、每 token 成本和缓存比例。ArtificialAnlys 的报告显示,DeepSeek 完成相同基准任务的总成本比 Fable 低 105 倍。

原文 · shao__meng

看每个 task 的成本 不只看每个 token 的成本 在 chatbot 阶段,我们关注每个 token 的成本,因为它是单轮的,input 和 output 我们可以限制。 但在 agent...

看每个 task 的成本 不只看每个 token 的成本 在 chatbot 阶段,我们关注每个 token 的成本,因为它是单轮的,input 和 output 我们可以限制。 但在 agent 阶段,每个 task 会经过很多轮的 loop、tool call、write code 等等,除了 token 单价,这个任务跑了多少轮,用了多少 token,影响更大。 单个任务成本: token 消耗总数 每 token 成本 cache 比例 也给我们做 agent 应用,怎么选模型,定好了计算公式。 Cline @cline While DeepSeek V4-Flash is significantly cheaper on price per token, this can be misleading if the overall cost per task ends up being higher due to more turns being made. However, @ArtificialAnlys reports DeepSeek completing the same benchmark tasks as Fable at 105x lower cost. 🔗 View Quoted Tweet 💬 0 🔄 0 ❤️ 0 👀 253 ⚡

看每个 task 的成本,不只看每个 token 的成本 · AI 热点