印度 Sarvam AI 推出 GPU 服务 Token Factory,面向开源模型推理
India’s Sarvam AI launches GPU service for open models
印度 Sarvam AI 搞了个 Token Factory,用自购 GPU 给开源模型做推理服务。跟直接租 AWS 或 Azure 不同,本地企业数据可以留在印度,还省了云厂商加价。做印度市场部署的团队可以看看定价。
印度 AI 公司 Sarvam AI 宣布推出 GPU 服务 Sarvam Token Factory,用于运行开源模型的推理任务。公司表示该服务基于私有采购的 GPU 构建,而非租用第三方云算力。
通过自持 GPU 的方式,Sarvam 可以直接向需要部署开源模型的客户出售 token 计算资源,省去中间云平台环节。对印度本地企业来说,数据不出境和本币计价往往是选择推理服务商的重要考量,这类本土 GPU 服务正是针对这一需求。
目前 Details 尚未披露 GPU 数量、定价和支持哪些具体开源模型,服务与 Sarvam 自家的 Sarvam 系列模型形成配套,也可能承接其他开源模型的推理负载。
India’s Sarvam AI launches GPU service for open models
Sarvam said Sarvam Token Factory runs on privately procured GPUs.
This report is categorized under AITOP's "Products" desk. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include Sarvam AI, GPU inference, open-source models, India.
Source attribution: curated from Tech in Asia (@Aiko Gao Ishida).