Chinese contentESP32-AI 亮相：8MB PSRAM 跑 2890 万参数模型，离线调咖啡
一个 ESP32-S3 板子就能跑 2890 万参数模型，还能离线下咖啡配方，小硬件玩大模型的天花板又高了。
#ESP32-S3
3 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "ESP32-S3", newest first.
Jul 28
Jul 27
Chinese content8美元ESP32-S3微控制器本地运行28.9M参数语言模型，速度9.5 tok/s
8美元的ESP32-S3就能跑语言模型，速度9.5 tok/s，端侧AI门槛又降低了，值得关注。
Jul 25
Chinese content在 8 美元 ESP32-S3 上运行近 2900 万参数 LLM，利用 Gemma Per-Layer Embeddings 将参数存于 Flash
别人用 8 美元的芯片跑大模型，靠的是 Gemma 的分层嵌入技巧。想低成本部署边缘 AI？这个开源项目就是参考答案。
