在 Amazon EKS 与 SageMaker HyperPod 上部署 NVIDIA Nemotron 3.5 Super VL

NVIDIA Nemotron 3.5 Super VL 是一个 120B 参数的混合专家（MoE）模型，结合了推理、工具调用与多模态理解能力。文章介绍了该模型的架构与适用场景，并演示如何用 NVIDIA Dynamo 和 vLLM 将其部署到 Amazon EKS、EKS Auto Mode 以及 SageMaker HyperPod EKS 上。部署流程覆盖集群配置、模型服务与推理加速等环节。