Local（本地化部署/本地运行）指将 AI 模型直接运行在用户自己的设备或私有硬件上，而非依赖云端 API，是当前 AI 基础设施中的重要方向。随着开源模型能力提升和本地硬件（如带大容量统一内存的桌面设备）普及，Local 方案在隐私、离线可用和长期成本上的优势日益凸显，逐渐从极客玩具走向实用工具。
Local 模型近期进展
当前焦点与观察点
围绕 Local 的讨论主要集中在三个层面。其一是硬件门槛：统一内存容量正在成为本地跑模型的关键指标，DGX Spark 这类设备把桌面级 Local 推理的可行参数量推高到 27B 甚至更大，但价格仍是普及障碍。其二是工具链成熟度：Ollama、LM Studio 已成为本地模型的常见入口，Cline 等主流工具的原生支持，加上 Hugging Face 推广的投机解码等推理加速技术（直播讲解投机解码，提升本地模型推理速度），正在缩小本地与云端体验的差距。其三是边界问题：'Local' 一词的含义也在泛化，例如 Local Wikipedia 项目尝试把维基百科内容映射到用户步行半小时范围内的地理维度，说明本地化概念正从模型部署扩展到数据与服务的本地化。后续值得观察的是本地智能体的可靠性，以及统一内存架构能否把 Local 方案的价格降到普通开发者可接受的水平。