AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

HY3

共 1 条相关 AI 资讯
7月30日
18:14
18:14官方一手marktechpost@Michal Sutter
腾讯开源了AngelSpec,一个基于PyTorch的训练框架,支持6种推测解码架构,包括MTP和块并行方法。该框架引入了DFly块扩散草稿器,采用混合目标条件与隐藏校正自回归头提升生成质量。AngelSpec还集成D-cut机制,实现运行时自适应验证预算分配。在HY3-295B-A21B模型上,TP=8配置下,DFly-8在并发4至64范围内实现1.98至2.40倍的解码速度提升。
AI模型AngelSpecDFly腾讯

推荐理由:腾讯刚开源了AngelSpec,一个统一训练推测解码草稿模型的框架。它带的DFly块扩散器能让HY3模型推理快最多2.4倍,还支持六种架构,实用性强。
原文
精选全部日报登录