#通信效率

GASLoC解决了分布式LLM训练中通信效率与异构带宽的痛点，做大规模模型预训练的团队可以直接参考实验对比，看看能否替代现有方案。

KV 通信已成为分离式 LLM 服务的瓶颈，KVServe 用自适应压缩解决了静态策略的次优问题。做 LLM 推理系统优化或部署大规模服务的团队，这个框架值得关注，可以直接集成到 vLLM 中试用。