Clover-35B-A3B-Preview 发布:开源权重扩散语言模型
首个开源权重的扩散语言模型 Clover-35B,35B 参数单卡跑出 680 tokens/秒,生成速度控可以关注下。
Clover-35B-A3B-Preview 定位为首个开源权重的生产级扩散语言模型(dLLM),总参数量 35B。官方称在 BF16 精度下单卡可达 680 tokens/秒。模型目前以 Preview 形式发布。
Diffusion!
> Meet Clover-35B-A3B-Preview 🍀 the first open-weight production diffusion language model (dLLM) with 35B total parameters capable of 680 tps on a single card at BF16.