Edge0开源8B和35B模型
恭喜晓东,Edge0终于正式开源了👏 这次他们把8B、35B模型,连同运行时和推理代码都放了出来。35B模型可以在手机和电脑上本地运行,峰值内存只有1–2.5GB,游戏、3D场景和网页也能完全在设...
Edge0开源了能在手机上运行的35B模型,内存仅需1-2.5GB,对端侧AI开发者很实用。
Edge0框架正式开源,包含8B和35B两个模型。35B模型峰值内存仅需1-2.5GB,可在手机和电脑本地运行。该模型支持游戏、3D场景和网页的设备端生成,无需云端或远程服务器支持。
恭喜晓东,Edge0终于正式开源了👏 这次他们把8B、35B模型,连同运行时和推理代码都放了出来。35B模型可以在手机和电脑上本地运行,峰值内存只有1–2.5GB,游戏、3D场景和网页也能完全在设...
恭喜晓东,Edge0终于正式开源了👏 这次他们把8B、35B模型,连同运行时和推理代码都放了出来。35B模型可以在手机和电脑上本地运行,峰值内存只有1–2.5GB,游戏、3D场景和网页也能完全在设备端生成。 做端侧AI的朋友可以去试试,也欢迎给他们提提意见。 Samuel Zeng @SamuelZengML A 35B language model running on an iPhone using only 1–2.5 GB of peak memory. No cloud. No remote server. No desktop GPU. Today, we’re open-sourcing Edge0 — a framework for running large AI models fully on-device. Your browser does not support the video tag. 🔗 View on Twitter 🔗 View Quoted Tweet 💬 2 🔄 0 ❤️ 1 👀 1283 📊 2 ⚡