Anyscale 相关 AI 资讯 · AI 热点

7月30日

23:26

23:26

techcrunch@Ram Iyer

英国AI云服务商Nscale宣布收购软件公司Anyscale。Anyscale提供分布式计算平台，帮助企业在多个数据中心扩展AI工作负载。此次收购将增强Nscale在AI计算栈中的端到端能力。交易具体金额未公开。

行业 Nscale Anyscale AI云计算

推荐理由：英国云商Nscale把做分布式计算的Anyscale收了，以后能帮你更顺畅地跨数据中心跑AI，有戏。

6月19日

03:08

03:08

官方账号vLLM@vllm_project

精选72°

Anyscale 与 Google Cloud GKE 合作推出 Ray Serve LLM 新版本，在 vLLM 基础上实现显著性能飞跃。预填密集型负载吞吐量提升 4.4 倍，解码密集型负载提升 24 倍。三个关键优化包括：控制平面端点选择器的直接流式传输、新的 vLLM Ray V2 执行器后端、以及基于 HAProxy 的 C 语言级路由。Ray 的容错、可观察性和跨 K8s/VM 可移植性为复杂推理部署奠定基础。

AI模型 Ray Serve LLM vLLM Anyscale

推荐理由：Anyscale 和 Google Cloud 联手让 vLLM 推理快了好几倍，预填负载快 4.4 倍，解码负载快 24 倍，用 Ray V2 执行器就能体验。

6月16日

20:16

20:16

官方账号vLLM@vllm_project

精选

Anyscale团队发布报告，介绍如何用Ray Serve和vLLM实现PD Disaggregation。该技术在AMD MI325X GPU上通过了压力测试，验证了实际性能提升。报告强调正确配置是发挥优势的关键。

技巧 vLLM Ray Serve Anyscale

推荐理由：vLLM推荐了Anyscale的这篇实战文章，讲清楚了PD Disagg在Ray Serve加vLLM上的做法，还在AMD MI325X上测过，值得搞推理部署的人看看。