精选理由
中科曙光这款超薄移动工作站能跑35B MoE模型,速度是主流产品3-5倍
中科曙光推出全球首款64线程移动工作站,机身厚度仅16.9mm。该设备配备16GB显存,本地运行35B MoE模型可实现50 Tokens/s输出速率。AI推理速度最高可达业界主流产品3~5倍。
原文 · IT之家
中科曙光预热全球首款 64 线程移动工作站:16GB 显存、16.9mm 厚度
IT之家 9 月 1 日消息,中科曙光 (Sugon) 今日宣布将推出 全球首款 64 线程移动工作站 (MWS)。 IT之家获悉,这款设备 机身厚度仅 16.9mm ,配备 16GB 显存,本地运行 35B MoE 模型可实现 50 Tokens/s 的输出速率,AI 推理速度最高可达业界主流产品 3~5 倍。