论文10:17
信息感知KV缓存压缩方法InfoKV这篇论文提出了InfoKV，用信息熵改进KV缓存压缩，在Llama-3.1和DeepSeek-R1上比传统注意力方法效果更好，适合关注长推理效率的人。
#信息熵
共 1 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「信息熵」标签的资讯、产品与论文，按刊登时间排，新的在上。
6月26日
这篇论文提出了InfoKV，用信息熵改进KV缓存压缩，在Llama-3.1和DeepSeek-R1上比传统注意力方法效果更好，适合关注长推理效率的人。