#GPU优化

共 7 条 · 7 天 1 条 · 30 天 3 条

信息流里打上「GPU优化」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月8日

这篇论文搞了个无损压缩模型权重的方法，压缩后比基线快最多 21 倍，还能省 27.5% 显存，做部署的可以看看。

arXiv cs.LG@Martín Bravo 等 4 人原文

9月30日

vLLM团队将在PyTorchCon分享LLM推理引擎的最新优化，包括KV缓存管理和GPU内核改进。

官方账号PyTorch@PyTorch原文

9月29日

训练智能体 RL 的人可以看看：PEARL 动态调 prefill-decode 配置还能借闲置 GPU，吞吐比 RLBoost+ 最高多 36.3%。

arXiv cs.AI@Jiaan Zhu 等 9 人原文

9月6日

Meta的AIRA₃不仅能翻译古文字，还能优化GPU性能，系统可自我积累知识。

官方账号Meta AI@AIatMeta原文

9月2日

行业73°03:38

Wafer从大学项目成长为AI基础设施公司，GLM 5.2速度领先行业，800万美元ARR证明市场认可。

Y Combinator@ycombinator原文

5月13日

模型中美对照官方一手21:35

MoE 模型的通信瓶颈是训练和推理的常见痛点，DeepEP 直接解决了这个问题。做大规模 MoE 训练或推理的团队，值得集成试试。

官方一手DeepSeek: GitHub 新仓库原文

5月11日

论文70°22:18

该工作展示了硬件厂商与AI研究机构在底层算子优化上的高效协作，直接提升了大模型训练/推理效率，对部署大规模Transformer模型的企业而言有显著成本降低潜力。

官方账号NVIDIA AI@NVIDIAAI原文