10:11官方账号arXiv cs.LG@Andrea Agazzi, Eloy Mosig García, Dario Trevisan该论文通过张量程序框架,研究了随机神经网络的无限宽度高斯过程极限。主要结果给出了有限网络与高斯过程极限之间的Wasserstein距离定量误差界,阶为宽度平方根倒数。该框架与架构无关,适用于前馈网络、递归网络和Transformer型架构。论文Tensor ProgramsGaussian ProcessWasserstein distance随机神经网络收敛理论推荐理由:这篇论文用张量程序证明了随机神经网络的高斯过程极限误差随宽度平方根倒数衰减,还覆盖了Transformer,想细看理论可以读。原文
10:21官方账号arXiv cs.LG@Tomasz Maciazek精选该研究分析了高斯过程(GP)后验采样中释放样本路径的差分隐私(DP)性质。与标准DP机制不同,后验采样的内在随机性可提供隐私保证。作者推导了显式的Rényi-DP界限,将隐私泄露分解为后验均值依赖和后验协方差依赖部分,并指出有效岭正则化对隐私有显著影响。通过成员推理攻击实验,验证了隐私泄露与正则化强度、后验方差及释放样本路径数量之间的预测关系。在噪声观测任务中,隐私兼容的正则化在保持有用决策的同时仅带来适度效用损失。论文Gaussian ProcessDifferential PrivacyRényi-DPAI安全隐私保护推荐理由:这篇论文分析了GP后验采样的隐私性,不用额外加噪就能获得DP保证,还给了Rényi-DP界限。和标准加噪方法比,它更巧妙地利用了内生随机性。原文