#长推理
共 2 条 · 7 天 0 条 · 30 天 1 条
信息流里打上「长推理」标签的资讯、产品与论文,按刊登时间排,新的在上。
10月2日
6月26日
论文10:17
信息感知KV缓存压缩方法InfoKV这篇论文提出了InfoKV,用信息熵改进KV缓存压缩,在Llama-3.1和DeepSeek-R1上比传统注意力方法效果更好,适合关注长推理效率的人。
这篇论文提出了InfoKV,用信息熵改进KV缓存压缩,在Llama-3.1和DeepSeek-R1上比传统注意力方法效果更好,适合关注长推理效率的人。