Chinese contentDCKV：首个端到端训练的 KV 缓存压缩编解码器
Prompt 的 KV 缓存太大存不动？DCKV 能压到 bf16 的 1/55，长上下文基准只掉 1.8 分，还全流程可微训练。
#DCKV
1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "DCKV", newest first.
Oct 28
Prompt 的 KV 缓存太大存不动？DCKV 能压到 bf16 的 1/55，长上下文基准只掉 1.8 分，还全流程可微训练。