Chinese content腾讯混元开源AngelSpec投机解码框架，DFly实现1.98-2.40倍加速
腾讯混元开源了AngelSpec，一个能帮你的模型推理提速近2倍的投机解码框架，实测比DFlash还快10%以上，代码和权重都直接可用了。
#Hy3-A21B
1 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "Hy3-A21B", newest first.
Jul 29
腾讯混元开源了AngelSpec，一个能帮你的模型推理提速近2倍的投机解码框架，实测比DFlash还快10%以上，代码和权重都直接可用了。
