Chinese contentvLLM 社区将亮相 PyTorch Conference,10 月 20–21 日圣何塞举行
用 vLLM 部署模型的朋友注意,10 月的 PyTorch Conference 有前缀缓存、KV 传输这些硬核议题,还有路线图讲解,感兴趣可以安排上。
用 vLLM 部署模型的朋友注意,10 月的 PyTorch Conference 有前缀缓存、KV 传输这些硬核议题,还有路线图讲解,感兴趣可以安排上。
去 PyTorch Conference 的话可以报名这个咖啡聚会,能当面跟 Ray 和 vLLM 团队聊推理部署的实战问题。
PyTorch 官方大会下周就开了,200 多场演讲、400 多个讲者,做开源 AI 开发的可以去看看议程。
在圣何塞参加会议的话,可以提前一天上 PyTorch 官方面授培训,学费里含一张 250 美元的 PTCA 认证考试券。
Shopify 的工程师要讲他们怎么用 vLLM 做模型评估和修复,还压低了成本和延迟,做推理的同学可以听听。
PyTorch 官方大会 10 月 20-21 日在圣何塞办,今年加了新手 track,还有卫星影像遥感的实战分享,做开发的话可以看看。
想考 PyTorch 认证的话可以看下,10 月 19 日在圣何塞有一整天实操培训,还附赠考试券,10 月 13 日前得报名。