模型12:17
FreqDepthKV：频率引导深度共享实现长上下文LLM高效KV缓存压缩FreqDepthKV在长上下文推理中将KV缓存压缩3.9倍，同时保持任务精度，比此前压缩方法更稳定，适合内存受限场景。
#FreqDepthKV
共 1 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「FreqDepthKV」标签的资讯、产品与论文，按刊登时间排，新的在上。
7月8日
FreqDepthKV在长上下文推理中将KV缓存压缩3.9倍，同时保持任务精度，比此前压缩方法更稳定，适合内存受限场景。