03:08
vLLM@vllm_project
vLLM@vllm_project精选72°
推荐理由：Anyscale 和 Google Cloud 联手让 vLLM 推理快了好几倍，预填负载快 4.4 倍，解码负载快 24 倍，用 Ray V2 执行器就能体验。
全部 AI 动态
AI 相关资讯全量信息流
6月19日
03:08
Anyscale 与 Google Cloud GKE 合作推出 Ray Serve LLM 新版本，在 vLLM 基础上实现显著性能飞跃。预填密集型负载吞吐量提升 4.4 倍，解码密集型负载提升 24 倍。三个关键优化包括：控制平面端点选择器的直接流式传输、新的 vLLM Ray V2 执行器后端、以及基于 HAProxy 的 C 语言级路由。Ray 的容错、可观察性和跨 K8s/VM 可移植性为复杂推理部署奠定基础。
6月16日
20:46
AITOP6月16日 20:46
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
6月10日
03:41
03:41
Patrick Loeber@patloeber
Patrick Loeber@patloeber推荐理由：想了解 Google AI 最新全家桶的开发者，这篇总结帮你快速抓住 Gemini 3.5、智能体 API 和 Gemma 4 的核心亮点，值得收藏。
5月21日
08:01
08:01
Andrew Ng@AndrewYNg
Andrew Ng@AndrewYNg推荐理由：Andrew Ng 的课程一向实用，这次聚焦图像/视频生成智能体这个少有人深入的方向，做多模态或内容生成的开发者可以直接学起来，掌握让智能体自我迭代的关键技巧。
07:59
07:59
Logan Kilpatrick@OfficialLoganK
Logan Kilpatrick@OfficialLoganK72°
推荐理由：Google 终于推出了真正意义上的 24/7 个人 AI 代理，做自动化工作流或重度 Google 用户可以直接用起来，后台跑任务不用再守着电脑。
5月17日
07:32
07:32
berryxia@berryxia
berryxia@berryxia推荐理由：Anthropic 把之前说“太危险”的模型悄悄放到了 GCP 上，做企业级 AI 部署的团队可以直接关注——这可能是你最早拿到最强思考模型的渠道。
07:25
07:25
TestingCatalog@testingcatalog
TestingCatalog@testingcatalog推荐理由：对于使用 GCP 的企业 AI 团队，这可能意味着获得更强大的 Claude 模型的新途径，值得关注 Anthropic 的云合作动态。