精选理由
想用国产GPU跑大模型?摩尔线程和SGLang把MUSA后端合到主线了,以后直接用,不用再折腾CUDA转译。
摩尔线程与 SGLang 社区在首次线下见面会上宣布,MUSA 后端已合并入 SGLang 主线。该合并使 SGLang 能够原生支持摩尔线程 GPU,不再依赖 CUDA。此次 Meetup 聚焦中国开源 AI 生态的 GPU 兼容性与性能优化。此举为国内开发者提供了更低门槛的国产 GPU 推理方案。
原文 · pandaily
SGLang × MUSA Meetup Concludes, Marking a New Era of Native GPU Support in China's Open-Source Ecosystem
Moore Threads and the SGLang community hosted the first offline meetup following the MUSA backend merge into SGLang mainline, marking native GPU support for China's open-source AI ecosystem.