AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

dLLM

共 2 条相关 AI 资讯
7月15日
09:30
09:30官方账号arXiv cs.AI@Daehoon Gwak, Minhyung Lee, Junwoo Park, Jaegul Choo
本文对扩散大语言模型(dLLM)的推理加速技术进行了系统综述。研究指出,并行生成并不天然带来实际速度提升,需要专门推理机制如扩散感知缓存与复用。作者提出了一个统一的延迟分解框架,用于解耦算法、架构和系统层面的因素。文章从算法创新、架构与系统优化、推理时缩放三个维度对加速技术进行了分类。最后,给出了可重复基准测试的指南,并指出了实现并行生成潜力所面临的开放挑战。
论文扩散模型大语言模型推理优化

推荐理由:想了解怎么让扩散大模型跑得快?这篇综述把加速方法分了三个维度,还给了评测框架,搞推理优化的值得看。
原文
6月18日
10:22
10:22官方一手arXiv: DeepSeek@Ruida Wang, Rui Pan, Pengcheng Wang, Shizhe Diao, Tong Zhang
研究团队提出Diffusion-Proof,这是首个将扩散LLM(dLLM)应用于形式定理证明的框架。该框架包含两个7B模型:dLLM-Prover-7B负责整段证明生成,dLLM-Corrector-7B利用双向信息进行局部校正。相比同等数据集训练的自回归基线,Diffusion-Proof在ProofNet-Test上提升1.61%,在MiniF2F-Test上提升6.14%。此外,该框架成功解决了一个更先进的DeepSeek-Prover-V2-7B未能解答的IMO问题,展示了扩散模型在长程连贯性任务上的优势。
AI模型Diffusion-ProofdLLM推理模型

推荐理由:扩散模型也能做定理证明了,比自回归强,MiniF2F上高出6个百分点,还解了一道DeepSeek没解出的IMO题。
原文
精选全部日报登录