#推理成本

买 GPU 只是冰山一角，CoreWeave 这场 45 分钟分享会掰开揉碎讲训练推理的真实开销和 TCO 怎么算，做成本测算的可以去听。

CoreWeave@CoreWeave原文

智能体一次请求能吃掉普通对话几十倍的 Token，Uber 和 Microsoft 都开始算这笔账了，Goldman 给了具体数字。

rohanpaul_ai@rohanpaul_ai3 个信源在谈原文

DeepSeek 在试验把小模型塞进便宜的游戏 GPU 里跑推理，成本思路很野，值得看看他们怎么做的。

rohanpaul_ai@rohanpaul_ai原文

有人扒出 DeepSeek 一年只花 10 亿美元、七成砸训练，还拿游戏卡跑小模型推理，抠成本思路挺值得看看。

Teortaxes@teortaxesTex11 个信源在谈原文

一组挺反直觉的数据：OpenAI 降价 62%，B200 租金反而涨 50%，想理解推理成本逻辑的可以看看。

AI Will@FinanceYF511 个信源在谈原文

CEO说开源推理占比下降是好事：新用例先用前沿模型，成熟后换开源省钱。Decagon九成业务跑开源。

a16z@a16z原文

亚马逊Bedrock现在支持GPT-5.6，还能自己控制缓存哪些提示，省成本又灵活。

官方一手AWS Machine Learning Blog@Melanie Li11 个信源在谈原文

微软在偷偷试 Kimi K3，一旦切换每年能省40多亿，比用OpenAI便宜不少。

算力才是AI的硬通货。看看K3上线两天就崩了，部署成本百万美金起，未来谁有算力谁说了算。

AI Will@FinanceYF511 个信源在谈原文

xAI 的 Grok 4.5 用不到一半的参数实现更低成本，对比 Kimi K3 的效率差异值得关注。

AI Will@FinanceYF511 个信源在谈原文

听听 Fireworks、Cognee、Wordware 怎么用低成本方法让智能体更靠谱，还有记忆和协作的实战方案。

Fireworks AI@FireworksAI_HQ原文

中国模型在OpenRouter上抢了近三分之一流量还便宜一大截，看看谁在降价抢客户

官方账号Decoder@Maximilian Schreiner11 个信源在谈原文

OpenAI 不靠堆芯片，靠系统优化就把推理成本砍半，API 用户很快能享受降价或更高额度。

OpenRouter 直接瞄准 AI 推理成本痛点，做模型调用的团队可以每周关注其新功能，能省下真金白银。

OpenRouter@OpenRouterAI原文

Moffett AI 戳破了“算力越大越好”的行业泡沫，做 AI 部署和成本控制的团队看完会重新审视自己的硬件采购清单，值得点开反思。

官方一手pandaily@[email protected] (Pandaily)8 个信源在谈原文

做AI Agent开发的团队终于有了解决prompt猜测和推理烧钱的工程方案，7篇论文直击痛点，值得逐篇拆解。

AI Will@FinanceYF5原文

做 AI 应用开发的团队，如果还在为推理成本头疼，The Grid 的思路值得一试——它用市场机制替代了固定定价，简单任务不再花冤枉钱。

rohanpaul_ai@rohanpaul_ai原文