10:34arXiv cs.AI@Toshiaki Koike-Akino, Jing Liu, Ye Wang精选张量网络能高效压缩大型神经网络,但现有方法难以在大模型中识别低秩结构。EinSort提出一种自适应张量化方法,通过索引排序发现目标张量中的内在低秩结构。在权重和KV缓存压缩实验中,该方法相比基线显著提升了重建质量。这为LLM的存储和计算优化提供了新思路,尤其适合资源受限场景。论文LLM压缩张量网络低秩结构KV缓存索引排序推荐理由:做LLM压缩和部署的团队值得关注——EinSort用排序技巧解决了张量化的核心痛点,直接提升压缩效率,建议在模型优化流程中试试。原文
14:06IT之家(博客/媒体)83°西蒙斯基金会弗拉蒂龙研究所与波士顿大学在《科学》发表研究,用传统计算机成功模拟了此前被认为只有量子计算机才能解决的量子动力学问题。该研究使用张量网络、3D张量网络和信念传播算法,在笔记本电脑上即可完成部分初始计算,精度达到当前先进水平。此前,加拿大D-Wave公司曾宣称其量子退火处理器在数分钟内解决该问题,而经典超算需数百万年。新方法将量子模拟比作“压缩文件”,大幅降低了计算资源需求。这项突破不仅推翻了“量子霸权”论断,还为材料科学等领域的研究开辟了新方向。论文量子计算张量网络算法突破经典计算材料模拟推荐理由:量子计算研究者会惊讶于经典算法竟能反超量子退火——用笔记本跑出高精度结果,值得点开看方法细节。原文