模型11:24BiSCo-LLM:无查找表二进制球面编码实现极低比特LLM压缩想省显存又不想损失太多模型质量?BiSCo-LLM用二进制球面编码把LLM压到2比特,不用查码表,存储更省。#BiSCo-LLM#LLM压缩#二进制球面编码#低比特量化aarXiv cs.LG@Yuantian Shao 等 9 人原文稍后读已读值得跟进有用关注 BiSCo-LLM
论文精选10:34EinSort:通过排序实现LLM张量化压缩做LLM压缩和部署的团队值得关注——EinSort用排序技巧解决了张量化的核心痛点,直接提升压缩效率,建议在模型优化流程中试试。#LLM压缩#张量网络#低秩结构#KV缓存aarXiv cs.AI@Toshiaki Koike-Akino 等 3 人原文稍后读已读值得跟进有用关注 LLM压缩