#量化感知训练

共 3 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「量化感知训练」标签的资讯、产品与论文，按刊登时间排，新的在上。

6月17日

Ternary Mamba：基于预训练检查点的分组QAT实现W1.58A16量化

把Mamba-2压缩到1比特权重不用花大钱从头训练，用预训练模型加少量微调就行，效果只差0.3%。

#Mamba-2 #Ternary Mamba #量化感知训练 #模型压缩

arXiv cs.LG@Ramprasath Ganesaraja 等 3 人原文

6月6日

模型中美对照多源确认03:05

Gemma 4 QAT 权重上线 Ollama，内存需求降低

QAT 权重让 Gemma 4 在更低内存下运行，适合在本地或边缘设备部署大模型的开发者，可以直接用 Ollama 命令体验。

#Gemma 4 #量化感知训练 #Ollama #模型优化

ollama@ollama11 个信源在谈原文

模型中美对照多源确认72°01:51

Google 发布 Gemma 4 QAT 检查点，本地运行大模型更高效

做本地 AI 部署或移动端推理的开发者，终于有了官方 QAT 方案——Gemma 4 压缩到 1GB 以下还能保持推理质量，建议直接下载检查点试试。

#Gemma 4 #QAT #量化感知训练 #本地推理

Google AI Developers@googleaidevs11 个信源在谈原文