12GB 通常指消费级显卡的显存容量（如 RTX 3060/4070 级别），也泛指本地 AI 部署中的关键资源门槛。在端侧与本地大模型推理场景中，12GB 是最常见的入门配置之一，近期多项开源进展正围绕这一规格展开，让普通玩家无需高端硬件也能跑大参数模型。
12GB 显卡本地部署的近期进展
相关生态与观察点
除显卡侧进展外，端侧 AI 的内存需求也在变化。美光公布了面向人形机器人与自动驾驶的边缘推理内存 EIM（报道）；MiniCPM-V 4.7 系列则在普通 iPhone 上实现离线多模态运行，速度达 20.51 tokens/秒（报道之外的官方演示）。另一边，开源命令行工具 RemoveMacAI 可删除 macOS 上 12GB 的 Apple Intelligence 数据，这里的 12GB 指系统预载的 AI 模型与数据占用空间，反映端侧 AI 对存储的实际消耗。
当前焦点集中在三点：一是 12GB 显存能跑多大模型的上限还在被刷新，Strata 一类引擎是关键变量；二是云端与端侧的内存/存储需求持续增长，硬件厂商正在跟进；三是用户对本地模型的控制权（拒答调整、可删除性）讨论升温。对普通用户而言，12GB 正从“够不够用”转向“能跑到多快”的问题。