用NVIDIA srt-slurm验证分布式LLM服务基准测试

本文介绍NVIDIA srt-slurm框架，使用srtctl将YAML声明式配置转换为可重复的SLURM基准工作流。在Google Colab中配置集群并运行内置与自定义配方。通过参数扫描和Pareto分析，建模分离预填充（prefill）和解码（decode）部署的性能权衡。