AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：分布式计算×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月4日
11:25
11:25arXiv cs.LG@Jian Yang, Yuan Tong, Qinbin Li, Zeyi Wen, Xiaofang Zhou
精选
本文提出一种基于全同态加密（FHE）的因果结构学习方法，在数据传输和计算过程中全程保持加密状态，解决分布式场景下的隐私泄露问题。针对FHE计算成本高、不支持除法和对数运算的挑战，作者设计了电路简化、牛顿-拉夫森倒数近似和泰勒展开等创新技术，并利用SIMD批处理加速。该方法还能扩展支持差分隐私，实验表明在测试数据集上结果与明文版本高度一致，且能在数十分钟内完成学习。
论文全同态加密因果结构学习隐私保护分布式计算SIMD加速
推荐理由：做分布式数据挖掘或医疗、金融等隐私敏感领域因果分析的团队，终于有了一个可落地的加密方案——FHE 的算力瓶颈被巧妙绕过，建议直接看技术细节。
原文
6月2日
12:02
12:02arXiv cs.LG@Arthur Kosmala, Stephan Günnemann, Meng Gao, Brandon Wood
分子动力学模拟因串行计算瓶颈难以提升单系统吞吐量。研究者提出 Langevin Speculative Dynamics (LSD)，一种分布式、模型无关的推测采样方法，借鉴语言模型和扩散模型中的推测采样思路，用草稿模型快速生成模拟步骤，再通过目标模型并行验证，并引入传输映射保证分布一致性。LSD 将推测采样扩展到二阶 Langevin 动力学，理论上推导了加速比与物理参数的关系，实验显示在不同系统和模型组合下实现 3-9 倍加速，且采样轨迹与目标模型分布一致。该方法有望大幅提升分子模拟效率，对计算化学、材料科学等领域的研究者具有实用价值。
论文分子动力学推测采样加速方法Langevin动力学分布式计算
推荐理由：分子动力学模拟的串行瓶颈终于被打破——LSD 用推测采样实现 3-9 倍加速，做计算化学或材料模拟的团队可以直接尝试，无需修改现有模型。
原文
5月21日
10:22
10:22arXiv cs.LG@Theofilos Mailis, Kalliopi-Christina Despotidou, Konstantinos Filippopolitis, Yannis Foufoulas, Thanasis-Michail Karampatsis, Andreas Ktenidis, Evdokia Mailli, Theodore Papamarkou, Yannis Ioannidis
精选
本文提出了一种类型化张量语言，用于形式化联邦学习与联邦分析中常见的计算结构。该语言区分了客户端分区的联邦张量和全局可用的共享张量，并通过与虚拟全局张量的对比定义语义。核心成果是共享状态分解理论：证明类型化单轮程序可通过固定维度的共享状态分解，且该状态大小与客户端和记录数量无关。此外，还证明了可表示性的逆定理，并将对应关系扩展到跨轮状态共享的迭代程序。最后，开发了可微分的学习片段，支持服务器端梯度下降和二阶更新，形式化了一类通信仅通过固定维度共享状态的联邦学习计算。
论文联邦学习类型化张量语言共享状态分解形式化方法分布式计算
推荐理由：联邦学习领域终于有了形式化的计算模型——这篇论文用类型化张量语言统一了分散的协议，做联邦学习系统设计和理论研究的团队值得细读，能帮你理清通信与共享状态的数学本质。
原文