#Qingmao Intelligence

1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "Qingmao Intelligence", newest first.
Nov 19
ProductsBuildersOfficial12:21
Chinese contentBAAI 与清程极智合作推出基于 FlagOS 的端到端推理优化方案

智源和清程极智把 FlagOS 推向商用推理了,从内核、服务延迟到前缀缓存都在做优化。如果团队在自建推理服务,这套覆盖多层级的方案可以对比 vLLM、SGLang 看看差异在哪。

Event
Primary sourcepandaily@[email protected] (Pandaily)Source