#低比特量化

共 3 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「低比特量化」标签的资讯、产品与论文，按刊登时间排，新的在上。

7月10日

BiSCo-LLM：无查找表二进制球面编码实现极低比特LLM压缩

想省显存又不想损失太多模型质量？BiSCo-LLM用二进制球面编码把LLM压到2比特，不用查码表，存储更省。

#BiSCo-LLM #LLM压缩 #二进制球面编码 #低比特量化

arXiv cs.LG@Yuantian Shao 等 9 人原文

5月26日

模型中美对照官方一手精选72°12:57

Model Best 开源 BitCPM-CANN：国产芯片实现 1.58-bit 训练

国产芯片终于能跑 1.58-bit 训练了，内存需求直降 6 倍，用国产算力的 AI 团队可以直接上手试试。

#开源/仓库 #训练框架 #低比特量化 #国产芯片

官方一手pandaily@[email protected] (Pandaily)原文

5月25日

模型中美对照精选76°11:52

面壁智能联合清华开源首个基于华为昇腾训练的1.58-bit端侧大模型BitCPM-CANN

国产算力终于跑通端侧大模型全链路——6倍显存红利让8B模型直接上手机，做端侧AI部署或国产芯片适配的团队值得一试。

#端侧大模型 #低比特量化 #华为昇腾 #开源/仓库

IT之家原文