12:21
官方账号arXiv cs.LG@Alexander Boesgaard Lorup
推荐理由：用Qwen2.5做200组实验：BF16有166处分歧，FP32无分歧；移植48层KV缓存后分歧跟随供体。
BF16/FP32
共 1 条相关 AI 资讯
7月31日
12:21
该论文在 Qwen2.5 衍生系统上用 200 项配对实验对比保留 live cache 与一次性 prefill。BF16 下两种构造在 166 个后缀和 20 个正确性标签上出现分歧，准确率差 1 个百分点（95% CI [-3.5, +5.5]）。FP32 固定前缀 2x2 对比没有解码分歧（Wilson 95% 上限 1.88%）。跨 48 层 key/value 的双向缓存移植让每个测试分歧跟随缓存供体（24/24 和 43/43）。