PyTorch 的 Helion 内核 DSL 集成 vLLM，部分工作负载吞吐提升超 10%

Helion 是 PyTorch 团队推出的内核 DSL，官方博客展示了如何将其集成到 vLLM 的线性后端。一套 Helion GEMM 实现覆盖 Standard GEMM、Split-K 和 Swap-AB 三种算法变体，按张量形状自动选择最优配置。在 NVIDIA Hopper GPU 上，结合逐形状调优与混合调度，性能超过 vLLM 默认的 CUTLASS 和 DeepGEMM 后端，部分工作负载端到端吞吐提升超过 10%。文章作者来自 Red Hat 和 Meta 的 PyTorch 团队。