模型扩容相关 AI 资讯 · AI 热点

6月8日

19:06

19:06

AI Will@FinanceYF5

精选

西班牙 Multiverse Computing 的 Aizpurua 团队提出一种新方法，利用小块量子电路为预训练大模型扩容，而非堆叠参数。他们仅给 Llama 3.1 8B 模型增加约 6000 个参数（不到原模型万分之一），便使困惑度降低 1.4%。量子部分运行在 IBM 156 比特处理器上。团队表示增益尚小，但已证明该方法的可行性，为未来量子与经典模型结合提供了新思路。

论文量子计算模型扩容 Llama 3.1 Multiverse Computing 低参数优化

推荐理由：这项研究为 AI 模型扩容提供了非传统路径——用量子电路替代参数堆叠，做模型压缩或效率优化的研究者值得关注，它可能开启低资源提升模型性能的新方向。