预填充吞吐超 330 Token/s：第六代骁龙 8 超级至尊版端侧适配 StepEdge-Omni 30B-MoE
300 亿参数的 MoE 模型跑进手机了，内存砍半，预填充 330 Token/s，邮件、行程规划全在本地完成，不用联网。
IT之家原文
#StepEdge-Omni
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「StepEdge-Omni」标签的资讯、产品与论文，按刊登时间排，新的在上。
9月23日
300 亿参数的 MoE 模型跑进手机了，内存砍半，预填充 330 Token/s，邮件、行程规划全在本地完成，不用联网。