#ARM CPU

共 2 条 · 7 天 0 条 · 30 天 1 条

MoE 1 OpenVINO 1 vLLM 1 推理优化 1

信息流里打上「ARM CPU」标签的资讯、产品与论文，按刊登时间排，新的在上。

9月25日

技巧 Agent 与开发者精选16:33

PyTorch 大会将分享在 ARM CPU 上优化 MoE 模型推理的方法

Fujitsu 的工程师要在 PyTorch 大会讲怎么用 vLLM 和 OpenVINO 在 ARM CPU 上跑 MoE 模型，做端侧部署的可以关注。

#vLLM #OpenVINO #MoE #ARM CPU

官方账号PyTorch@PyTorch原文

5月21日

产品精选07:59

General Instinct 将前沿AI模型部署到边缘硬件，助力机器人团队

做机器人或边缘 AI 的开发者终于有了靠谱的离线推理方案——General Instinct 让 Jetson 和 ARM 设备也能跑前沿模型，建议做嵌入式 AI 的团队点开看看。

#边缘计算 #机器人 #AI模型部署 #Jetson

Y Combinator@ycombinator原文