8月26日
04:48
8月13日
17:51
17:51andrew chen@andrewchen
Andrew Chen 在 X 上分享 Deepseek v4 flash 0731 在双 DGX Spark 上的本地运行体验。他表示生成速度约为 50 tok/s,首字延迟(TTFT)很低。他认为这是目前最适合 prosumer 级用户的本地 AI 配置。
事件专题

推荐理由:Andrew Chen 说这套是目前最强家用本地 AI 配置:双 DGX Spark 跑 Deepseek v4 flash 0731 约 50 tok/s。
8月11日
22:02
22:02官方账号NVIDIA AI@NVIDIAAI
精选
NVIDIA推出Nemotron 3.5 Lightning,专为长时间运行的智能体工作流优化,覆盖工具调用、结果验证和任务委派等高频执行场景。该模型体积适中,可从DGX Spark到数据中心灵活部署。NVIDIA展示了其在DGX Spark上运行智能体工作流的实例,并提供了技术细节文档。
事件专题

推荐理由:NVIDIA新出的Nemotron 3.5 Lightning,专门为跑智能体高频调用工具的场景优化,体积小到能在DGX Spark上跑,适合做Agent开发的朋友看看。
8月2日
02:39
02:39andrew chen@andrewchen
精选
Bleys Goodson发布了面向DGX Spark的量化单节点版DeepSeek V4 Flash。该版本对应DeepSeek V4 Flash 07-31,参数规模284B。在单台DGX Spark上,prefill速度达1000 tok/s,多智能体服务速度59 tok/s。整个安装只需一条命令。
事件专题

推荐理由:DGX Spark用户别错过,一条命令跑284B的DeepSeek V4 Flash,prefill有1000 tok/s,多智能体也有59 tok/s。
01:35
7月21日
04:21
04:21官方账号NVIDIA AI@NVIDIAAI
Poolside的Laguna模型现已可在NVIDIA DGX Spark上本地运行。DGX Spark是NVIDIA推出的桌面级AI超级计算机。这使得Laguna模型能够在个人设备上进行高效推理,无需依赖云服务。具体性能指标尚未公布。
事件专题

推荐理由:Poolside把Laguna模型放进了NVIDIA的DGX Spark小盒子,以后本地跑代码生成模型更方便了。
7月16日
02:33
6月29日
18:57
18:57官方账号vLLM@vllm_project
精选
NVIDIA 与 vLLM 合作发布 step-by-step 指南,教你用四台 DGX Spark 盒子组建私有集群,自托管 550B 参数的 Nemotron-3-Ultra 模型。指南基于 vLLM 官方容器,可提供兼容 OpenAI 的端点。无需数据中心,适合构建私有 agent 工作流。
事件专题

推荐理由:想不依赖数据中心自己跑 550B 模型?NVIDIA 出了详细教程,四台 DGX Spark 就能拼出 OpenAI 兼容的端点。