Chinese contentBuoyantIO 开源 Kinference：在 Kubernetes 上运行 vLLM 的控制平面
BuoyantIO 给 vLLM 做了个 Kubernetes 控制平面，开源的，想在自家集群跑 vLLM 推理的可以照着入门指南试一下。
#Kinference
1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "Kinference", newest first.
Nov 6
