论文11:26SelectInfer:面向端侧LLM的选择性神经元加载与计算框架这篇论文提出了一种在手机上跑大模型的新思路:不加载全部神经元,只算有用的部分。效果不错,内存和计算都省很多,关键是精度没掉。#SelectInfer#LLM#边缘设备#模型优化aarXiv cs.AI@Huzaifa Shaaban Kabakibo 等 4 人原文稍后读已读值得跟进有用关注 SelectInfer