#并行生成

共 7 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「并行生成」标签的资讯、产品与论文，按刊登时间排，新的在上。

7月15日

想了解怎么让扩散大模型跑得快？这篇综述把加速方法分了三个维度，还给了评测框架，搞推理优化的值得看。

arXiv cs.AI@Daehoon Gwak 等 4 人原文

7月2日

模型中美对照多源确认78°03:52

NVIDIA把30B模型劈成两半，并行写token，速度翻倍还保质量，不是新训模型是复用预训练，挺聪明的做法。

官方账号NVIDIA AI@NVIDIAAI8 个信源在谈原文

6月12日

模型中美对照多源确认精选73°12:10

DiffusionGemma 用并行去噪替代逐 token 生成，大幅提升推理速度，做大规模文本生成或实时应用的团队可以直接在 vLLM 中体验，值得关注。

官方账号vLLM@vllm_project11 个信源在谈原文

6月11日

DiffusionGemma 把文本生成速度拉到 4 倍，还彻底开源，做本地部署或加速日常 workflow 的开发者可以直接拖权重玩。

berryxia@berryxia原文

模型中美对照多源确认76°03:06

文本扩散模型把生成速度拉到新高度，做代码补全或实时编辑的开发者可以直接在 NVIDIA 端点试跑，感受并行 token 的爽感。

官方账号NVIDIA AI@NVIDIAAI11 个信源在谈原文

5月28日

UI/UX 设计师和前端开发者可以借助 Gemini 3.5 Flash 的并行生成能力，将原型迭代时间从小时级压缩到分钟级，建议直接体验 Google AI Studio 中的这个 demo。

Google AI Developers@googleaidevs原文

5月20日

NVIDIA 的扩散语言模型打破了传统逐 token 生成瓶颈，做推理加速或大模型部署的团队可以直接拿来提升 GPU 利用率，值得关注。

官方账号NVIDIA AI@NVIDIAAI原文