Chinese contentMiniCPM-V 4.7 联手 Nativ 实现苹果芯片端侧运行
OpenBMB 的 MiniCPM-V 4.7 现在能在 Mac 上离线跑多模态了,1B 版每秒 315 token,图像视频都能看,数据不出本地。
OpenBMB 的 MiniCPM-V 4.7 现在能在 Mac 上离线跑多模态了,1B 版每秒 315 token,图像视频都能看,数据不出本地。
用 Apple MLX 跑本地模型,Nativ 一键搞定聊天、管理还能当 API 后端,很方便。
Prince Canuma 做了个 Mac 版 LM Studio,用 MLX 跑本地模型,还能自动加载你下载过的模型。