#Split-KV

训练 diffusion drafter 的人可以看看，Split-KV 在 CP 64 下最高加速 3.67 倍，负载均衡还快三个数量级，代码已开源在 GitHub。