Edge0 35B 模型在 iPhone 飞行模式下运行，峰值内存仅 1.8GB
精选理由
35B 的模型离线跑在 iPhone 上只占 1.8GB 内存，这压缩水平真少见，做端侧 AI 的朋友可以看看他们的开源方案。
Leona Yang 团队一个月前开源了 Edge0 模型。这段演示视频显示，35B 模型在 iPhone 飞行模式下运行，峰值内存只有 1.8GB，全程无需云端、无需远程服务器、也没有按 token 计费的成本。开源一个月内，Edge0 已被部署到手机、耳机、智能眼镜、机器人和 AI 玩具上，据称拥有 8 万以上客户。
原文 · AI Will
35B 模型在 iPhone 飞行模式下运行，峰值内存只有 1.8GB——这才是端侧 AI 该有的样子。 替 @LeonaYangAGI 和 Edge0 团队开心。开源仅一个月，已经从手机走进耳机、智能眼镜、机器人和 AI 玩具，并拥有 8 万+客户。 接下来最期待看到 Edge0 跑在哪种设备上？ Leona Yang @LeonaYangAGI A month ago we open-sourced Edge0. This is a 35B model on an iPhone in airplane mode, at 1.8 GB of peak memory. No cloud. No remote server. No per-token cost. Your browser does not support the video tag. 🔗 View on Twitter 🔗 View Quoted Tweet 💬 0 🔄 0 ❤️ 0 👀 414 ⚡
