#边缘设备

共 3 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「边缘设备」标签的资讯、产品与论文，按刊登时间排，新的在上。

8月26日

模型官方一手07:53

Liquid AI发布了Pipette，这是一个开源的基准测试套件，可以综合评估设备模型、量化、运行时和硬件，对于想要了解模型在边缘设备上表现的人来说是个好工具。

官方一手marktechpost@Asif Razzaq原文

7月21日

这篇论文提出了一种在手机上跑大模型的新思路：不加载全部神经元，只算有用的部分。效果不错，内存和计算都省很多，关键是精度没掉。

arXiv cs.AI@Huzaifa Shaaban Kabakibo 等 4 人原文

5月22日

模型72°06:56

边缘设备上跑 LLM 和智能体终于有了可落地的方案——2.7 亿参数的 Function Gemma 在手机上就能达到 90%+ 准确率，做移动端 AI 应用的开发者可以直接参考其微调路径和架构设计。

AI Engineer@aiDotEngineer原文