11:21阮一峰的网络日志（博客/媒体）
精选
推荐理由：想在家跑AI大模型？这篇对比了RTX 5090和AMD迷你PC，解释了为什么统一内存能装大模型但速度慢，还教你用MoE模型提速。
AMD Strix Halo
共 1 条相关 AI 资讯
7月17日
11:21
RTX 5090有32GB显存和1792GB/s带宽，但无法加载70B参数模型（需32.6GB）。AMD Strix Halo迷你PC（Ryzen AI Max+ 395）拥有128GB统一内存和256GB/s带宽，能加载大模型但Token生成速度仅每秒6个。MoE模型如Qwen3-30B-A3B每次只激活3B参数，可将读取量降至2GB，从而在迷你PC上达到每秒100+ Token。选择硬件需根据模型大小和速度需求权衡。