Chinese contentxAI SGLang负责人讲解10万GPU部署Grok
想了解超大规模GPU集群如何搞推理？xAI的SGLang负责人手把手教你拆分、分片和通信重叠，还比DeepSeek API更便宜。
#large-scale deployment
5 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "large-scale deployment", newest first.
Jul 7
Jun 29
Industry13:52
Chinese contentTogether Compute开源推理工作坊：单次调用与智能体服务对比如果你在搭智能体应用，想从demo走向生产，来听听Zain怎么拆解关键差异。
Jun 2
Chinese contentRippling AI 用 Deep Agents 和 LangSmith 6 个月服务百万用户
Rippling 用 LangChain 生态在半年内跑通百万级用户场景，做 AI 产品落地的团队值得看他们怎么选型、怎么踩坑。
May 19
Chinese contentClaude Code 大规模运行最佳实践：百万行仓库与遗留系统
这篇博客解决了 Claude Code 在真实大型项目中的落地痛点，做企业级开发或维护遗留系统的团队可以直接参考，避免踩坑。
May 14
Chinese contentMinT：管理百万级LoRA策略的训练与推理基础设施
做大规模LoRA训练和推理的团队终于有了正经的工程方案——MinT解决了策略数量爆炸时的资源浪费问题，用适配器分离和调度大幅降低成本，搞大模型服务的建议点开看看。