Chinese content腾讯开源AngelSpec：HY3模型上MTP与块并行推测解码的统一训练框架
腾讯刚开源了AngelSpec，一个统一训练推测解码草稿模型的框架。它带的DFly块扩散器能让HY3模型推理快最多2.4倍，还支持六种架构，实用性强。
#HY3
1 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "HY3", newest first.
Jul 30
腾讯刚开源了AngelSpec，一个统一训练推测解码草稿模型的框架。它带的DFly块扩散器能让HY3模型推理快最多2.4倍，还支持六种架构，实用性强。
