IBM获2.4亿美元合同,为Together AI部署HGX B300算力

IBM 收获 2.4 亿美元合同,为 Together AI 提供 HGX B300 算力

精选理由

IBM给Together AI搭了个2.4亿美元的HGX B300大集群,专门跑开源模型推理,2027年上线,想省钱又想要性能的可以关注。

AI 摘要

IBM与AI云平台Together AI达成多年期2.4亿美元协议,将在IBM Cloud部署NVIDIA HGX B300集群,支持开源模型推理服务,系统预计2027年Q1上线。该集群是首个基于IBM Cloud、采用HGX B300与Spectrum-X以太网技术的大规模推理专用集群。Together AI近期完成8亿美元C轮融资,估值83亿美元,月处理Token达400T。

原文 · IT之家

IBM 收获 2.4 亿美元合同,为 Together AI 提供 HGX B300 算力

IT之家 8 月 12 日消息,IBM 美国当地时间 11 日宣布与 AI 原生云平台 Together AI 达成一项多年期 2.4 亿美元 (IT之家注:现汇率约合 16.22 亿元人民币) 协议。 IBM 将在其 IBM Cloud 部署一个 NVIDIA(英伟达)HGX B300 集群 , 支持 Together AI 的开源模型推理服务 。该系统预计将于 2027Q1 投入使用。 IBM 表示,此次部署是首个基于 IBM Cloud 并采用 NVIDIA  HGX B300 系统与 Spectrum-X 以太网技术构建的专用于推理的大规模集群。 Together AI 首席执行官 Vipul Ved Prakash 表示: 企业希望获得最先进的模型性能,但又不想承担封闭模型的高昂成本,而这只有在底层基础设施快速可靠且能够大规模部署的情况下才能实现。 与 IBM 和 NVIDIA 的合作为我们奠定了这样的基础。这个集群使我们能够更快地为更多公司提供生产级推理能力,这是我们推动开源 AI 成为企业首选的重要一步。 Together AI 近期以 83 亿美元的估值完成了 8 亿美元的 C 轮融资,其月处理词元(Token)能力达 400T。