Products

Qualcomm 联手 Cirrascale 开放 Dragonfly AI200 推理加速器客户评估

高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估

Why we picked it

高通第一款机架级推理卡开始让客户上手测了,单卡 768GB 内存、一机架 43TB,能直接跑 10T 级模型,主打省总持有成本。做私有云部署或想避开 NVIDIA 生态的企业可以关注评估渠道。

Qualcomm 于 11 月 17 日宣布,携手 AI 私有云企业 Cirrascale 向部分客户开放 Dragonfly AI200 推理加速器的评估,客户可在云环境中测试自己的 AI 工作负载在该芯片上的实际表现。Dragonfly AI200 是高通第一款机架级 AI 推理方案,单卡配备 768GB LPDDR5X 内存,支持 PCIe Gen6 纵向扩展与 RoCE 横向扩展。

Body

具体到部署形态,每个 140kW 液冷 ORv3 机架由 56 卡组成,总内存达 43TB,提供 0.414 PB/s 内存带宽,可在单一机架内运行 10T 级超大模型的推理,主打更低的总持有成本。这一路线与 NVIDIA 主打 GPU 算力的方案不同,高通选择以超大内存容量和带宽切入超大参数模型推理场景。对正在评估私有云推理部署的企业来说,多了一个非 NVIDIA 生态的候选硬件选项。

Original · IT之家

高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估

IT之家 11 月 20 日消息,Qualcomm(高通)当地时间本月 17 日宣布,其携手 AI 私有云企业 Cirrascale, 向部分客户开放 Dragonfly(飞龙)AI200 推理加速器的评估 。客户可通过云环境探索其 AI 工作负载在该芯片上的表现。 Dragonfly AI200 是高通的第一款机架级人工智能解决方案,单卡配备 768GB LPDDR5X 内存,支持 PCIe Gen6 纵向扩展、RoCE 横向扩展。 其每个 140kW 液冷 ORv3 机架由 56 卡组成,总内存达 43TB,提供 0.414 PB/s 内存带宽,可在单一机架中运行 10T 级超大模型的推理,提供更低的总持有成本。

Industry Coordinates & Source Verification

This report is categorized under AITOP's "Products" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include Qualcomm, Cirrascale, Dragonfly AI200, AI inference.

Source attribution: curated from IT之家.