#成本节省
共 3 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「成本节省」标签的资讯、产品与论文,按刊登时间排,新的在上。
7月1日
6月12日
论文09:06
Can I Buy Your KV Cache? 论文提出预计算 KV 缓存共享方案这篇论文直击 AI 智能体重复计算同一文档的浪费痛点,做 LLM 推理优化或智能体基础设施的团队值得关注——它提出的 KV 缓存共享方案可能大幅降低推理成本,且已有实测数据支撑。
6月5日
这篇论文直击 AI 智能体重复计算同一文档的浪费痛点,做 LLM 推理优化或智能体基础设施的团队值得关注——它提出的 KV 缓存共享方案可能大幅降低推理成本,且已有实测数据支撑。