产品

SambaCloud 上 MiniMax M3 开启 Prompt Caching,输入成本降 90%

精选理由

在 SambaCloud 上跑 MiniMax M3 的可以白捡一笔:长上下文缓存命中后 TTFT 快最多 4.7 倍,输入价格砍到 0.06 美元每百万 token,代码一行不用改。

SambaNova 宣布 SambaCloud 平台上的 MiniMax M3 已支持 Prompt Caching。缓存命中后 TTFT(首 token 延迟)加快 35–88%,整体最高提速 4.7 倍。缓存 token 定价为每百万 token 0.06 美元,输入成本最高下降 90%。对复用长上下文的智能体场景无需修改代码即可生效。

图片来源 · SambaNova
原文 · SambaNova

Prompt caching is now live for @MiniMax_AI M3 on SambaCloud.

When agents reuse long context, cached prefixes can deliver:

-35–88% faster TTFT -Up to 4.7x faster -90% lower input cost -Just $0.06/M cached tokens

No code changes required.

Read more ⬇️ https://t.co/rA8dl7WvAT