Amazon SageMaker 是 AWS 推出的全托管机器学习平台,覆盖模型训练、微调、部署与推理优化的完整链路,近年已从传统机器学习平台演进为面向大模型时代的 SageMaker AI。围绕大语言模型的训练效率与推理成本,它持续在集群管理、推理路由和智能体协作等方向迭代,成为企业级 LLM 工程化落地的主要选择之一。
SageMaker 近期进展
当前焦点与观察点
SageMaker 近期的迭代呈现出两条清晰的主线。一是推理成本优化:前缀感知路由、并发扫描、实例偏好列表等功能,都在帮助企业把 LLM 部署的单位成本压下来,反映出行业竞争已从"能不能部署"转向"部署得多划算"。
二是面向智能体工作流的整合:新的 aws-ai-ml 技能让编码智能体自动生成针对 SageMaker 优化的推理代码,Positron 数据科学 IDE 的接入以及配合编码智能体部署 Hugging Face 模型,都表明 AWS 正在把平台能力嵌入到开发者已有的 AI 辅助工具链中,而非要求用户进入自己的控制台操作。
对用户而言,值得观察的是:HyperPod 多团队共享机制能否真正解决算力分配争议;多轮强化学习支持是否足够成熟以支撑智能体训练需求;以及智能体自动写部署代码的可靠性边界在哪里。整体来看,SageMaker 正试图同时服务好"训练大模型的基础设施方"和"用智能体构建应用的普通开发者"两类人群。