02:15
官方一手AWS Machine Learning Blog@Venu Kanamatareddy
精选
推荐理由：英伟达的新开源模型，30B MoE 但只跑 3B 活跃参数，放在 SageMaker 上直接部署，专为智能体高频调用设计，吞吐量翻 4 倍，适合跑大批量任务的人。
SageMaker JumpStart
共 2 条相关 AI 资讯
8月18日
02:15
NVIDIA Nemotron 3.5 Lightning 已可在 Amazon SageMaker JumpStart 中部署。这是一款面向高并发智能体工作负载的开源模型，采用 30B 参数的 MoE 架构，其中活跃参数为 3B。该模型可提供最高 4 倍的吞吐量提升，以及最高 30% 更快的任务完成速度。开发者可通过 SageMaker JumpStart 一键启动部署。
6月17日
01:55
01:55
官方一手AWS Machine Learning Blog@Andy Peng
精选
推荐理由：AWS教你用P-EAGLE在SageMaker上把推理加速好几倍，选模型调参数就能部署，简单实用。