亚马逊 AWS 额外部署 200 万块 NVIDIA GPU
亚马逊 AWS 又放大招了,这次是 200 万块 NVIDIA GPU,AI 运算能力再升级,和 Google Cloud、Azure 比,这回谁更强?
亚马逊 AWS 又放大招了,这次是 200 万块 NVIDIA GPU,AI 运算能力再升级,和 Google Cloud、Azure 比,这回谁更强?
vLLM 出了个新插件,把 MoE 推理的注意力层和专家层拆分部署,想分别扩缩容就方便了,支持 NVIDIA 和昇腾卡。
算力租赁市场迎来新巨头,做 AI 基础设施或云服务的团队值得关注——SpaceX 的入局可能改变 GPU 供应格局,每月 9.2 亿美元的协议说明需求有多疯狂。