Event ·Single source

DCKV：首个端到端训练的 KV 缓存压缩编解码器

DCKV 是一种面向混合架构语言模型 KV 缓存的可微压缩编解码器，首次实现端到端训练。它的变换、量化器和熵模型针对冻结的语言模型联合优化，同时考虑码长和输出变化。在 Qwen3.5-2B 上，DCKV 将压缩后的 token 存储空间压缩到 bf16 的 1/55 以下，三个长上下文基准最多损失 1.8 分；压缩到 1/100 以下时最多损失 3.6 分。

Current read

Prompt 的 KV 缓存太大存不动？DCKV 能压到 bf16 的 1/55，长上下文基准只掉 1.8 分，还全流程可微训练。

2 sources37° AI heatLast updated 2026/10/27 10:11:04

Evidence

2 sources

Primary sourcearXiv cs.AI

2026/10/27 10:11:04View source

Related source 1rohanpaul_ai

2026/10/27 17:51:06View source

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.

Open the story