09:52
berryxia@berryxia
berryxia@berryxia推荐理由：给想低成本跑大模型的开发者参考：用Qwen3量化版，M1 Pro就能流畅做本地任务。
Ternary-bonsai
共 1 条相关 AI 资讯
7月15日
09:52
作者基于Qwen3模型进行2bit量化，得到Ternary-bonsai-27b-mlx-2bit模型。在M1 Pro 32G笔记本上通过LM Studio加载并开启本地服务器，直接接入业务产品。回答速度较快，多模态功能表现良好，无大问题。