AITOP

NeMo

共 4 条相关 AI 资讯
8月15日
03:33
03:33官方账号NVIDIA AI@NVIDIAAI
71°
NVIDIA发布开源库NeMo Switchyard，用于智能体工作流中的模型路由。该库允许复杂推理和规划步骤调用前沿模型，高容量专门执行使用Nemotron Lightning。开发者可自定义路由策略，在成本和性能间灵活取舍。
AI产品NVIDIANeMoSwitchyard
事件专题
推荐理由：NVIDIA出了个开源的模型路由库Switchyard，能让工作流里复杂步骤用强模型、简单步骤用轻量模型，省成本。
原文
7月14日
13:55
13:55官方账号vLLM@vllm_project
精选
NVIDIA NeMo 团队发布了新的智能体优先强化学习框架 Molt，采用 vLLM（基于 Ray）作为 rollout 引擎。vLLM 支持快速异步服务，最高可扩展至 1T 级 MoE 规模，且易于集成，让上层的强化学习核心保持小巧和可修改。
AI模型vLLMMoltNVIDIA
事件专题
推荐理由：vLLM 被 NVIDIA 新框架 Molt 选为 rollout 主力，支持 1T 级 MoE 规模，想搞强化学习可以试试这套组合。
原文
6月25日
00:51
00:51官方一手Hugging Face: Blog（博客/媒体）
精选
NVIDIA 发布 NeMo AutoModel，通过自动化模型并行、混合精度训练和梯度检查点，简化 Transformer 模型微调流程。该工具可自动检测硬件配置，支持多 GPU 分布式训练，无需手动调整参数。在微调 BERT-base 模型时，相比标准 PyTorch 实现，NeMo AutoModel 将训练时间缩短约 40%，并保持相同精度。
技巧NVIDIANeMoAutoModel
事件专题
推荐理由：NVIDIA 搞了个 NeMo AutoModel，能自动帮你加速微调 Transformer 模型，省去手动调参的麻烦，速度还快很多，适合想快速出结果的人。
原文
5月29日
14:33
14:33官方账号阶跃星辰 Stepfun@Stepfun_AI
精选
Step 3.7 Flash 模型在发布首日即获得 NVIDIA 的全面支持，包括 NIM 推理微服务、NeMo 框架以及 GPU 加速端点。这意味着开发者可以立即在 NVIDIA 的生态系统中部署和运行该模型，无需额外适配。NVIDIA 的首日支持通常意味着模型经过了优化，能充分利用 GPU 硬件性能，降低推理延迟和成本。这对于需要高性能推理的 AI 应用团队来说是一个重要信号，表明 Step 3.7 Flash 已具备企业级部署条件。
AI模型Step 3.7 FlashNVIDIANIM
事件专题
推荐理由：NVIDIA 首日支持意味着 Step 3.7 Flash 可直接用于生产环境，做推理部署的团队可以省去适配工作，直接使用 NIM 和 NeMo 加速。
原文