Chinese contentSGLang 三年进化：从 RadixAttention 到支撑 330+ 组织的推理引擎
想自己搭推理服务的开发者可以看看这条时间线。SGLang 从 RadixAttention 缓存技巧做起，三年内做到 217 个模型 day-0 支持，330 多个组织在用，和 vLLM、TensorRT-LLM 属于同一赛道。选引擎前了解它的演进路径会有帮助。
#RadixAttention
1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "RadixAttention", newest first.
Nov 15
