SageMaker

general · First seen 2026-05-23 · Last seen 2026-11-19 · 239 mentions

Overview

SageMaker 是亚马逊云科技(AWS)推出的全托管机器学习平台,覆盖模型训练、微调、部署推理到边缘管理的完整生命周期。2024 年底 AWS 将其升级为 SageMaker AI 统一平台,整合了数据处理、模型开发与生成式 AI 能力,目前已成为企业级 AI 工程化的主流选择之一,近期更新主要围绕 GPU 利用率、推理成本和任务启动效率展开。

SageMaker 近期进展

  • SageMaker Inference 支持 NVIDIA MIG,可将单张 GPU 分区部署多个模型:借助 MIG(Multi-Instance GPU)技术,单张物理 GPU 可切分为多个实例分别承载不同模型端点,直接提升小模型推理场景的硬件利用率。
  • NVIDIA Nemotron 3.5 Super VL 登陆 Amazon SageMaker JumpStart:NVIDIA 的多模态 Nemotron 3.5 Super VL 模型可通过 JumpStart 一键部署,同期还支持在 Amazon EKS 与 SageMaker HyperPod 上部署,面向智能体(Agentic AI)场景。
  • SageMaker AI 支持 SOCI 索引镜像,训练任务启动从分钟级降到秒级:通过按需拉取容器镜像所需的文件层,大幅缩短任务冷启动时间,对高频、短周期的训练和微调作业收益明显。
  • Exowatt 用 SageMaker 无服务器微调超越前沿模型,成本降低至 1/49:能源公司 Exowatt 采用无服务器模型定制,在特定任务准确率上超过通用前沿模型,成本仅为原来的约 1/49,体现了垂直领域微调对通用大模型的替代潜力。
  • 当前焦点与观察点

    从近期动态看,SageMaker 的演进方向集中在三个层面。其一是算力效率:MIG 分区部署和 SOCI 快速启动,都是在 GPU 供给紧张的背景下压缩单位成本的手段。其二是成本与性能的权衡:知识蒸馏(如 SeqKD 蒸馏智能体)和无服务器微调等实践显示,企业越来越多地在小模型/专有模型与调用前沿模型 API 之间做精细的性价比计算。其三是资源治理:AWS Batch 配额管理支持 SageMaker Training 任务跨团队借用 GPU,反映出多团队共享稀缺算力时的调度与计费问题已成为平台级功能需求。

    值得持续观察的是,SageMaker 正从单纯的 ML 训练平台向「AI 工程底座」扩展——语音 AI(如 Cartesia 的低延迟方案)、边缘视觉生命周期管理(SageMaker SDK v3)等案例说明其覆盖面在加宽。与此同时,外部对 AWS 生态的锁定成本、以及与自建 Kubernetes 方案的取舍,仍是企业在选型时的主要争议点。

    Coverage

    10 on file