#parallelism strategies
4 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "parallelism strategies", newest first.
Sep 19
Jun 10
Chinese contentPiper:可编程分布式训练系统,解耦策略与运行时实现
Piper 解决了分布式训练中策略与实现绑定的痛点,做大规模模型训练或并行策略研究的开发者可以直接用这套框架灵活组合新策略,省去手动调优的麻烦。
May 20
Chinese content推理扩展瓶颈:LLM 推理从计算受限转向容量受限
这篇论文戳中了推理模型部署的核心痛点——从计算瓶颈转向容量瓶颈,做 LLM 推理优化的工程师和架构师值得细读,能帮你避开常见的并行策略陷阱。
May 19
Chinese contentCharon:大规模LLM训练与推理的统一细粒度模拟器
做 LLM 部署优化的工程师终于有了一个高精度模拟器来验证“如果…会怎样”的假设,Charon 能帮你快速找到最佳配置,避免盲目调参,建议直接看论文实验部分。