01:04Harrison Chase@hwchase17精选LangChain 与 NVIDIA 合作发布了 NemoClaw DeepAgents 蓝图,该蓝图集成了 Deep Agents 开源框架、Nemotron 3 ultra 模型以及 OpenShell 企业运行时。同时,OpenWiki 推出新版本,支持从 Gmail、互联网等来源创建个人知识库(个人大脑)。这些更新旨在帮助企业从模型层到上下文层实现完整的技术栈掌控。AI产品LangChainNVIDIADeep AgentsOpenWiki智能体10 个信源在谈推荐理由:LangChain和NVIDIA合作出了个新蓝图,用Nemotron 3 ultra跑Deep Agents,还有OpenWiki新版本能从你的邮箱建个人知识库,挺实用的。原文
00:10官方账号LangChain@LangChainAI精选LangChain 团队将 NVIDIA 的 Nemotron 3 Ultra 接入 agent 框架 Deep Agents 进行调优。他们通过特定的训练和推理优化,提升了模型在复杂任务中的表现。调优后的 Nemotron 在多个 benchmark 上取得进展,展示了开源模型在智能体场景下的潜力。AI模型NemotronNVIDIALangChainDeep Agents智能体10 个信源在谈推荐理由:LangChain 分享了怎么用 Deep Agents 调优 Nemotron 3 Ultra,有具体方法,做 agent 的可以看看。原文
23:56官方一手AWS Machine Learning Blog@Sandeep Raveesh-Babu精选本文介绍NVIDIA Nemotron 3架构的特点,并详细演示如何通过Amazon SageMaker AI的无服务器定制功能进行微调。步骤涵盖在SageMaker Studio中配置环境、加载Nemotron 3模型、调整超参数并启动训练。该方法无需管理服务器资源,支持高效迭代模型。技巧NVIDIANemotron 3Amazon SageMaker微调无服务器6 个信源在谈推荐理由:想无服务器微调NVIDIA Nemotron 3?AWS官方教程手把手教你用SageMaker Studio搞定。原文
11:45官方账号arXiv cs.LG@Kaifeng Zhao, Mathis Petrovich, Haotian Zhang, Tingwu Wang, Siyu Tang, Davis Rempe73°ARDY 是一个流式生成框架,采用混合表示(显式根特征与潜在身体嵌入)和两阶段自回归变压器去噪器,支持在线文本提示和灵活的运动学约束。在 HumanML3D 基准和 Bones Rigplay 数据集上的评估显示,其运动质量和约束遵循度高。通过交互式演示展示动态文本控制、关键帧姿势约束、路径跟随和鼠标键盘运动控制。代码和模型已发布。AI模型ARDYNVIDIA人体运动生成交互式控制自回归扩散7 个信源在谈推荐理由:NVIDIA 实验室提出 ARDY,能实时生成高质量人体运动,支持文本+约束控制,比传统方法更可控、更快速。原文
06:26andrew chen@andrewchen作者认为,对于占大部分使用场景的日常查询(如谷歌搜索式的“normie prompts”),前沿模型与开源模型输出质量差异已不明显,用户难以盲测区分。他用Qwen 27b dense在Mac上运行,觉得已足够胜任。这预示开源模型将占据多数查询,AI定价趋近于零并转向广告支持,竞争焦点将移向隐私、互联和免费捆绑。只有前沿模型用于编程、科学等小众高价值场景继续存在。行业Qwen 27b denseGrok 4.5开源模型AI定价NVIDIA8 个信源在谈推荐理由:作者说大部分用户根本分不清不同模型的输出好坏,开源模型就够用,AI可能要免费了。观点反主流但很实在,值得一读。原文
05:54官方账号NVIDIA AI@NVIDIAAI精选Flex-Forcing是NVIDIA研究团队发布的视频生成方法。当前主流方法有双向扩散(同时建模所有帧,结构稳但慢)和自回归(逐帧生成,快且支持长片段,但漂移)。Flex-Forcing训练单一模型在推理时可根据计算预算选择任一种方式或中间态。AI模型NVIDIAFlex-Forcing视频生成扩散模型自回归模型7 个信源在谈推荐理由:NVIDIA新出的Flex-Forcing,一个模型就能在双向扩散和自回归之间切换,想快想稳都行,挺省事的。原文
02:31Aravind Srinivas@AravSrinivas精选Arav Srinivas宣布将在美国的NVIDIA B200s上托管一个模型,并计划对Nemotron 3 Ultra进行后训练。后训练旨在提升该模型的性能,使其与美国开源模型具备同等能力。更多细节即将公布。AI模型Nemotron 3 UltraB200sNVIDIA开源模型后训练10 个信源在谈推荐理由:Arav Srinivas说要在美国用B200s跑Nemotron 3 Ultra后训练,让美国开源模型追上对手进度。原文
19:30IT之家(博客/媒体)73°美国银行估算,英伟达 Rubin NVL72 机柜整机售价约 600 万美元,其中 HBM4 内存成本约 38.2 万美元(18.40 美元/GB)。Rubin Ultra V300 机柜(144 块 GPU)售价高达 2100 万美元,单柜 HBM4e 容量达 82,944GB,内存成本升至 153.4 万美元。相比 Blackwell NVL72 (300 万美元),Rubin 机柜售价翻倍,HBM 占整机成本从 5.2% 升至 6.4%。建设一座 1GW 的 Rubin 数据中心投资超 470 亿美元,年电费约 13 亿美元。行业NVIDIARubinHBM4AI服务器成本分析9 个信源在谈推荐理由:英伟达下一代 Rubin 服务器价格曝光,单柜 600 万到 2100 万美元,光内存成本就超 150 万,比 Blackwell 贵得多,想了解 AI 硬件成本趋势可以看看。原文
16:52官方一手marktechpost@Asif Razzaq73°NVIDIA发布Nemotron-Labs-3-Puzzle-75B-A9B,这是Nemotron-3-Super的压缩变体。通过Iterative Puzzle方法,总参数从120.7B降至75.3B,活跃参数从12.8B降至9.3B。在单台8xB200节点上,它实现了2.03倍于Super的总吞吐量,每用户100 tok/s。在H100上,1M-token并发从1提升到8。AI模型NemotronNVIDIAMoE推理模型模型压缩10 个信源在谈推荐理由:NVIDIA把这个MoE模型压到75B,吞吐翻倍,用户延迟不变,适合降本增效。原文
03:46官方账号LangChain@LangChainAILangChain创始人Harrison Chase与NVIDIA CEO Jensen Huang进行炉边对话,讨论了今日公告、开放智能体系统的蓝图以及通往低成本企业智能体的路径。对话聚焦于如何构建可扩展的代理系统,并降低企业部署门槛。双方没有公布具体模型或数字,但强调了开放生态与硬件协同的重要性。行业LangChainNVIDIAJensen Huang智能体企业级应用10 个信源在谈推荐理由:LangChain创始人和黄仁勋聊了开放智能体和企业级低成本方案,做Agent的值得听听他们怎么看方向。原文
03:19官方一手NVIDIA AI Blog@Adel El Hallak精选NVIDIA Nemotron 3 Ultra 在 LangChain 的 Deep Agents 框架上取得开放模型最高准确率。它完成更多任务且吞吐量更高,运行速度提升10倍。其成本低于顶级闭源模型。这使得 Nemotron 3 Ultra 成为构建 AI 智能体的高性价比选择。AI模型NVIDIANemotron 3 UltraLangChainDeep Agents智能体10 个信源在谈推荐理由:NVIDIA 的 Nemotron 3 Ultra 和 LangChain 合作,以更低成本跑出比闭源模型快10倍的成绩,做智能体首选。原文
03:05官方账号LangChain@LangChainAI精选LangChain联合NVIDIA及EY、Baseten、Fireworks AI、Nebius、CrusoeAI、DeepInfra、Together Compute等合作伙伴,发布NemoClaw Deep Agents Blueprint。该参考架构完全开源,企业可自主拥有和定制。在基准测试中取得领先性能,推理成本相比同类方案降低10倍以上。蓝图旨在降低企业构建开放智能体系统的门槛。AI模型LangChainNVIDIANemoClaw智能体开源模型10 个信源在谈推荐理由:LangChain和NVIDIA搞了个完全开放的智能体蓝图,跑分很强,成本只要别人的十分之一,企业可以随便改,真的实用。原文
02:34Harrison Chase@hwchase17Prime Intellect 宣布完成1.3亿美元A轮融资,由 Radical Ventures 领投,NVIDIA、Intel Capital、Dell Capital 及现有投资者跟投。该公司将利用资金构建开放超级智能堆栈(Open Superintelligence Stack),使用户能自主训练、部署并持续改进模型。此轮融资将用于加速平台开发与生态扩展。行业Prime Intellect融资超级智能堆栈开放模型NVIDIA8 个信源在谈推荐理由:Prime Intellect 融了1.3亿美元,NVIDIA和Intel都跟投了。他们要搞开放的超级智能堆栈,让你自己训练和部署模型,不用依赖大厂。原文
01:46官方账号LangChain@LangChainAI精选NVIDIA与LangChain联合发布NemoClaw Deep Agents蓝图,包含开放权重模型层Nemotron 3 Ultra,支持领域定制。Deep Agents层提供规划、工具调用、记忆和长时任务处理能力。OpenShell Runtime作为开放运行时,允许用户控制、审计和治理。该蓝图旨在简化智能体应用的构建与部署。AI模型NVIDIANemotron 3 UltraLangChainDeep Agents智能体10 个信源在谈推荐理由:NVIDIA和LangChain搞的这个蓝图很实在,Nemotron 3 Ultra开放权重随便微调,智能体框架自带规划、工具、记忆,运行时也开源可审计。原文
01:42官方账号NVIDIA AI@NVIDIAAI精选NVIDIA AI 与 LangChain 联合推出基于 Nemotron 3 Ultra 的 Deep Agents 开源智能体框架。该 agent 在评测中取得 0.86 聚合分数,推理成本仅 4.48 美元。而性能最接近的闭源模型成本为 43.48 美元,实现了 10 倍的成本降低。框架完全开放可定制,开发者可直接使用。AI模型Nemotron 3 UltraLangChainDeep AgentsNVIDIA智能体10 个信源在谈推荐理由:NVIDIA 和 LangChain 搞了个开源智能体,用 Nemotron 3 Ultra 跑 Deep Agents,性能比肩闭源但成本只要 4 块多,比最接近的对手便宜 10 倍。搞 AI agent 的值得看看。原文
01:01官方账号LangChain@LangChainAI精选LangChain调整了NVIDIA Nemotron 3 Ultra模型的推理框架,在基准测试中获得0.86的聚合分数,成本仅4.48美元。与之性能最接近的模型成本为43.48美元,实现了10倍的成本降低。该优化在保持领先性能的同时大幅降低了推理开销。AI模型NemotronNVIDIALangChain推理优化基准性能10 个信源在谈推荐理由:LangChain让Nemotron 3 Ultra跑分0.86,成本只要4.48刀,比对手便宜近10倍,性价比拉满。原文
23:41官方账号LangChain@LangChainAILangChain 与 NVIDIA 合作推出 NemoClaw Deep Agents Blueprint,这是一个完全开源的参考架构,用于构建企业级智能体系统。该架构在多个基准测试中取得领先性能,同时推理成本比传统方法降低超过 10 倍。它采用完全开放的软件栈,企业可以拥有并自定义代码。该蓝图旨在帮助开发者快速部署生产级智能体应用。AI模型NemoClawDeep AgentsLangChainNVIDIA智能体10 个信源在谈推荐理由:LangChain 和 NVIDIA 搞了个开源的智能体参考架构,性能领先还便宜 10 倍成本,搞 agent 的可以看看。原文
23:37Harrison Chase@hwchase17精选LangChain与NVIDIA合作发布NemoClaw Deep Agents Blueprint,这是一个完全开源的企业级代理系统参考架构。该蓝图在基准测试中取得领先性能,同时推理成本相比现有方案降低超过10倍。企业可以完全拥有并自定义整个堆栈。AI产品NemoClawDeep AgentsLangChainNVIDIA智能体9 个信源在谈推荐理由:LangChain和NVIDIA联手搞了个叫NemoClaw的开源代理系统,性能领先还便宜10倍以上,搞企业级AI代理的可以看看。原文
16:44IT之家(博客/媒体)NVIDIA 正与 ASIC 初创企业 d-Matrix 合作,将 Hopper/Blackwell GPU 与 d-Matrix 的 Corsair ASIC 结合形成混合算力基础设施。Parasail 通过该组合实现了 10 倍的 Token 生成速率。Corsair 采用台积电 N6 制程 D-IMC 架构,集成计算单元和足量 SRAM 降低数据开销。方案中 GPU 负责推理前端的预填充任务,Corsair 处理延迟敏感的解码任务。行业NVIDIAd-MatrixCorsair推理加速异构计算10 个信源在谈推荐理由:NVIDIA 和 d-Matrix 搞了个混合算力方案,GPU 负责预填充、专用芯片负责解码,推理 Token 生成速度翻了 10 倍。不是单纯的拼硬件,是真正分工优化。原文
15:19官方一手marktechpost@Sana Hassan精选本教程使用NVIDIA的cosmos-framework,在Colab上构建紧凑的Omnimodal Mixture-of-Transformers模型。该模型共享跨模态注意力,路由文本、视觉、动作各模态到专属专家。通过合成物理世界数据和自回归rollout,模型预测未来潜状态。教程展示了如何用小型版模拟Cosmos 3世界模型的核心能力。技巧NVIDIACosmos 3Omnimodal Mixture-of-Transformers世界模型多模态3 个信源在谈推荐理由:NVIDIA发了个Colab友好教程,教你搭简化版Cosmos 3世界模型,用Omnimodal MoT架构实现跨模态预测,比跑全量模型省资源。原文
11:04IT之家(博客/媒体)74°英伟达发布NVIDIA Vera CPU,称其为可规模化单线程最强CPU。在智能体AI负载下,其单核持续性能是x86的1.8倍。相比NVIDIA Grace,自研Olympus核心每周期指令数高50%。Perplexity测试显示,Vera完成真实编码流程速度约为x86的1.5倍,并发沙箱启动速度最高为x86的1.9倍。合作伙伴测试中,Starburst SQL分析速度可达领先x86服务器的3倍,Redpanda实时流处理延迟最低降至1/6。AI产品NVIDIAVera CPU智能体x86AI芯片6 个信源在谈推荐理由:英伟达的Vera CPU专为智能体AI打造,单核性能比x86强1.8倍,编码和数据库分析都更快,值得关注。原文
10:31官方账号NVIDIA AI@NVIDIAAI精选74°NVIDIA 开源了 NVIDIA-Nemotron-Labs-3-Puzzle-75B-A9B-NVFP4 模型,总参数量 75.3B,激活参数 9.3B,采用 MoE 架构。该模型从 Nemotron-3-Super-120B 通过 Iterative Puzzle 框架压缩而来,支持 1M token 上下文长度。模型可运行在单张 GB10 显卡上。AI模型NVIDIA-Nemotron-Labs-3-Puzzle-75B-A9B-NVFP4NVIDIAMoE开源模型长上下文10 个信源在谈推荐理由:NVIDIA 刚开源的 75B MoE 模型,实际只激活 9.3B 参数,单卡就能跑百万 token 上下文,适合长文档或代码分析。原文
08:54官方一手marktechpost@Asif RazzaqNVIDIA发布了Nemotron-Labs-Audex-30B-A3B(Audex)模型,这是一个混合专家(MoE)架构,统一了音频理解、语音识别、翻译、文本转语音和音频生成五种能力。该模型以Nemotron-Cascade-2为骨干,仅在音频任务上产生边际的性能回归。Audex在30B总参数中仅有3B活跃参数,高效实现了多模态融合。AI模型AudexNVIDIA多模态音频理解MoE10 个信源在谈推荐理由:NVIDIA发了款新模型Audex,能同时搞定音频理解、语音识别、翻译、TTS和音频生成,而且几乎没牺牲原有文本模型的性能。原文
07:54Aravind Srinivas@AravSrinivas71°Perplexity CEO Arav Srinivas表示,NVIDIA Vera CPU是专为agentic runtime定制的。Perplexity已与NVIDIA合作,在Vera CPU上运行其Perplexity Computer的沙箱基础设施,并观察到显著性能提升。Vera被描述为从规模上看单线程最强的CPU,适合agentic AI的序列执行,包括推理步骤、工具调用和代码执行。在系统满载时,每个agent步骤仍能保持快速。AI产品Vera CPUNVIDIAPerplexity智能体6 个信源在谈推荐理由:Perplexity CEO说他们用NVIDIA的Vera CPU跑智能体性能提升明显,Vera是专为agent设计的单线程王者CPU。原文
07:45IT之家(博客/媒体)电源厂商海韵在官网电源瓦数计算器中新增了RTX 5080 SUPER、RTX 5070 Ti SUPER和RTX 5070 SUPER三款显卡选项。数据显示RTX 5080 SUPER TDP为415W,比RTX 5080的360W提升55W;RTX 5070 Ti SUPER TDP为350W,比RTX 5070 Ti的300W高50W;RTX 5070 SUPER TDP为275W,较RTX 5070的250W增加25W。三款显卡均将采用单颗3GB GDDR7显存,RTX 5080 SUPER和RTX 5070 Ti SUPER配备24GB,RTX 5070 SUPER升级至18GB。发布时间仍存不确定性,传闻最早2026年第三季度或推迟至2027年初。行业RTX 5080 SUPERRTX 5070 Ti SUPERRTX 5070 SUPERNVIDIA显卡功耗10 个信源在谈推荐理由:海韵官网泄露了NV三款SUPER显卡的功耗数据,RTX 5080 SUPER跑到415W,比非SUPER版高了55W,显存也升级到24GB,想买卡可以提前了解下功耗变化。原文
04:28官方账号NVIDIA AI@NVIDIAAI精选NVIDIA Research提出MOTIVE方法,用于识别视频模型训练中对运动建模真正重要的片段。MOTIVE通过重新加权训练信号,聚焦运动区域、淡化静态背景,并依据对运动的影响程度为每个片段打分。仅用少量高影响子集微调,即可提升时序动态质量,在VBench动态性指标上显著提升,并以74.1%的人类偏好胜率优于基线模型。该工作获ICML2026杰出论文荣誉提名。AI模型MOTIVENVIDIA视频生成运动建模ICML10 个信源在谈推荐理由:NVIDIA 发了新方法 MOTIVE,帮你从海量视频里挑出对运动建模最有效的片段来微调,效果比基座好很多。原文
02:16elvis@omarsar0精选NVIDIA发布论文,将混合MoE模型Nemotron-3-Super压缩为Puzzle-75B-A9B,活跃参数降至9B。在单个8xB200节点上,交互式服务器吞吐量约为原模型2倍。在H100 GPU上,1M token并发数从1请求提升至8。在推理、编程、长上下文和智能体基准上精度保持。该方法联合优化异构MoE剪枝、活跃参数预算和Mamba剪枝,结合蒸馏、强化学习、量化与多令牌预测头。AI模型Puzzle-75B-A9BNemotron-3-SuperMoE模型压缩NVIDIA10 个信源在谈推荐理由:英伟达把大MoE模型压到9B活跃参数,吞吐量翻倍,智能体应用部署成本大幅下降,适合模型高效推理场景。原文
23:15官方账号NVIDIA AI@NVIDIAAI精选NVIDIA研究团队在ICML2026发表论文“Fast Autoregressive Video Diffusion & World Models with Temporal Cache Compression & Sparse Attention”。该方法通过时空缓存压缩和稀疏注意力解决自回归视频扩散中的注意力瓶颈。实验显示可实现5倍至10倍的推理速度提升,并在长序列生成中保持恒定内存占用。该工作同时适用于视频扩散模型和世界模型。论文NVIDIAICML2026视频扩散世界模型稀疏注意力4 个信源在谈推荐理由:NVIDIA发的新论文,用时空缓存压缩和稀疏注意力,让视频扩散生成速度飙5-10倍,内存还不涨,搞视频生成和世界模型的朋友可以看看。原文
14:28IT之家(博客/媒体)71°英伟达与 Hugging Face 宣布合作,将 NVIDIA Isaac GR00T 1.7 机器人基础模型和 NVIDIA Isaac Teleop 远程操作框架接入 LeRobot 开源机器人库。后续计划引入 NVIDIA Cosmos 3 物理 AI 世界模型。此举连接英伟达的 300 万机器人开发者与 Hugging Face 的 1600 万 AI 开发者。LeRobot 已接入的开源物理 AI 数据集包含超过 35 万条真实与模拟轨迹及 5700 万次抓取数据。AI模型NVIDIAHugging FaceLeRobotIsaac GR00T机器人10 个信源在谈推荐理由:英伟达和 Hugging Face 把机器人基础模型和远程操作框架接入了开源库 LeRobot,还计划加入 Cosmos 3,海量数据集也能直接用。原文
01:11官方账号NVIDIA AI@NVIDIAAI精选在 ICML 2026 上,NVIDIA 的 Nemotron 模型和数据集被 145 篇论文引用。NVIDIA 自身有 74 篇论文被接受,约 2000 篇论文引用了 NVIDIA GPU。这些数据体现了 NVIDIA 在 AI 研究中的基础设施地位。Nemotron 作为开放模型正在成为现代 AI 研究的基础。AI模型NVIDIANemotronICMLGPU开源模型8 个信源在谈推荐理由:NVIDIA在ICML 2026上刷了一波存在感:145篇论文用上Nemotron,74篇自家论文入选,还有2000篇靠NVIDIA GPU跑出来的。学术圈地位一览无余。原文
00:11官方一手marktechpost@Asif RazzaqNVIDIA 发布 HORIZON 框架,一种免手动代理,通过 Git Worktrees 将每个 RTL 问题作为版本化仓库托管。该框架在多个 RTL 基准测试中达到 100% 完成率,无需人工干预。HORIZON 自动迭代设计、验证和修复硬件描述代码,显著提升芯片设计效率。AI模型NVIDIAHORIZONRTL智能体芯片设计2 个信源在谈推荐理由:NVIDIA 新出的 HORIZON 代理,能自动搞定 RTL 设计,基准测试全通过,做芯片验证的可以看看。原文
14:38官方一手marktechpost@Asif RazzaqNVIDIA 发布了 ASPIRE 自改进机器人框架,能自动编写并优化机器人控制程序。该框架在 LIBERO-Pro 长任务上实现 31% 零样本成功率,并通过迭代修复将性能提升最多 77 点。ASPIRE 还能将已验证的修复技能蒸馏为可复用的技能库,支持零样本迁移到未见过的长时任务。AI模型NVIDIAASPIRE机器人LIBERO自我改进4 个信源在谈推荐理由:NVIDIA 搞了个新框架 ASPIRE,自己写程序自己修,LIBERO-Pro 长任务零样本就 31%,还能再提 77 点,做机器人的可以看看。原文
10:14官方账号LMSYS Org (SGLang)@lmsysorgLM-SYS在推文中强调软件是AI基础设施的复合力量。他们指出开源意味着每一份进步都能惠及所有人。该组织自豪地基于NVIDIA CUDA原生构建。行业LM-SYSNVIDIACUDA开源AI基础设施6 个信源在谈推荐理由:LM-SYS说软件才是核心,开源能让每个人受益,还特意cue了NVIDIA CUDA。观点很直白。原文
23:29官方账号LMSYS Org (SGLang)@lmsysorg76°NVIDIA推出Qwen3.6-27B-NVFP4模型,采用4位浮点量化,模型大小仅为BF16版本的约1/2.5。该模型在MMLU Pro基准上达到86.3分,与FP8版本性能几乎无损。上下文长度完整保留262K。SGLang已提供Day-0支持,并附带cookbook。AI模型Qwen3.6-27B-NVFP4NVIDIASGLang量化推理模型9 个信源在谈推荐理由:NVIDIA新出的Qwen3.6-27B模型,4位量化体积小很多但精度没怎么降,SGLang直接就能用,可以去试试。原文
03:52官方账号NVIDIA AI@NVIDIAAI78°NVIDIA Research将30B参数的Nemotron-3-Nano-30B-A3B模型拆分为两半,一半维护上下文,一半生成token。该扩散语言模型仅复用预训练权重而非从头训练,在保持98.7%原始质量的同时实现了2.42倍的生成加速。这种方法将传统的自回归逐token生成改为并行写入,显著提升了推理效率。AI模型NemotronNVIDIA扩散语言模型并行生成推理加速7 个信源在谈推荐理由:NVIDIA把30B模型劈成两半,并行写token,速度翻倍还保质量,不是新训模型是复用预训练,挺聪明的做法。原文
00:09官方账号LMSYS Org (SGLang)@lmsysorg精选73°LMSYS 发文感谢 NVIDIA 在其最新推理软件经济学报告中提及 SGLang。SGLang 推出针对 Blackwell 架构的 day-0 优化方案,将 DeepSeek V4 的推理性能提升最高 5 倍。该优化通过 CUDA 原生推理路径实现,显著降低了每 token 成本。NVIDIA AI 团队与 SGLang 合作的具体技术细节已在博客中公开。AI模型SGLangNVIDIADeepSeek V4Blackwell推理模型8 个信源在谈推荐理由:SGLang 和 NVIDIA 联手让 DeepSeek V4 在 Blackwell 上跑得快了 5 倍,开源推理引擎的效率又上了一个台阶。原文
16:15官方一手marktechpost@Asif RazzaqNVIDIA 发布了 Nemotron-Labs-TwoTower,一个基于冻结的自回归骨干 Nemotron-3-Nano-30B-A3B 的离散扩散语言模型。该模型以开放权重形式提供,采用 NVIDIA Nemotron 开放模型许可证。其核心设计旨在解决自回归模型逐个 token 解码导致的吞吐量瓶颈。通过扩散过程并行生成,有望显著提升文本生成速度。AI模型Nemotron-Labs-TwoTowerNemotron-3-Nano-30B-A3BNVIDIA扩散语言模型开源模型7 个信源在谈推荐理由:NVIDIA 把自家 30B 模型改成扩散架构,不再逐个字生成,吞吐量能快很多。开源权重,开发者可以直接拿来用。原文
15:50AI Will@FinanceYF5根据统计,55位C级高管常驻西雅图,来自Anthropic、OpenAI、NVIDIA、Cisco等公司。还包括Palo Alto Networks、CrowdStrike、Shopify、Stripe。西雅图拥有全美25%的AI工程师和第二大开发者人才池。该数据凸显西雅图作为全球科技巨头工程中心的地位。行业OpenAIAnthropicNVIDIA行业观察10 个信源在谈推荐理由:西雅图不只有AWS和微软,这份统计列出了55位来自Anthropic、OpenAI等公司的C级高管,让你看清AI人才聚集地。原文
14:47IT之家(博客/媒体)精选消息源称英伟达原定 2027 年推出的 Rubin Ultra AI 加速器因制造执行问题放弃 4-Die 方案,改为 2-Die 方案。4-Die 方案需搭配 16 个 HBM4E,面临先进封装接近光罩极限、散热难度飙升以及成本过高挑战。改用 2-Die 后性能缩水一半,可能在与 AMD Instinct MI500 系列竞争中降低竞争力。英伟达转向更易量产的 2-Die 版本。AI产品Rubin UltraNVIDIAHBM4EAMD Instinct MI500AI芯片7 个信源在谈推荐理由:英伟达下一代AI芯片Rubin Ultra从4颗die砍到2颗,性能减半,因为封装和散热太难搞了。和AMD MI500比可能不占优。原文
13:44IT之家(博客/媒体)81°英伟达在 Blackwell 平台上优化 DeepSeek V4 模型推理,单 Token 成本降至原先的五分之一。Blackwell 平台通过生产运营层、应用加速层、基础设施访问层三层优化,实现分布式服务、专家并行、NVLink 通信等技术。优化后单 GPU token 吞吐量最高提升 20 倍。英伟达将单 Token 成本列为 AI 总拥有成本的核心指标。AI模型NVIDIADeepSeek V4Blackwell推理优化性能提升6 个信源在谈推荐理由:英伟达把 DeepSeek V4 的推理成本砍到五分之一,单 GPU 吞吐量暴增 20 倍,选 Blackwell 做推理的可以闭眼冲了。原文