04:53
官方账号vLLM@vllm_project
官方账号vLLM@vllm_project精选
推荐理由：vLLM社区第一次线下大会，想了解高性能推理前沿和开源生态的朋友别错过，直接和NVIDIA、AMD、Google TPU的工程师面对面。
Ray Summit
共 1 条相关 AI 资讯
7月10日
04:53
vLLM项目与Inferact合作，在Ray Summit（8月24-26日于旧金山）举办首届vLLM Conference。会议将讨论vLLM路线图、如何最大化NVIDIA/AMD/TPU等加速器性能、将vLLM集成到训练与推理管线、以及生产级推理经验。演讲嘉宾来自Inferact、NVIDIA、AMD、Google TPU、Anyscale、PyTorch、Meta、Red Hat等。