privacy accounting

privacy accounting(隐私核算)是差分隐私体系中的核心环节,指通过精确追踪算法各步骤消耗的隐私预算(如 ε、δ 参数),量化并管理整个训练或分析流程的隐私损失。随着差分隐私在机器学习训练、大模型微调等场景的落地,隐私核算从理论工具逐渐变成工程系统中不可或缺的组件。## privacy accounting 近期进展差分隐私训练中一个关键问题是采样机制的隐私损失如何精确计算。一篇 arXiv 论文(编号 2610.42117)提出用 multiscale FFT 加速随机分配采样的隐私审计,通过频域变换降低计算复杂度,使大规模场景下的隐私损失估计更加可行。在隐私预算的利用效率方面,编号 2610.42139 的论文 'Counting on Dummies' 研究了隐私放大问题,探讨可观测计数与截断批次如何放大隐私保护效果,为降低实际隐私消耗提供了新思路。此外,编号 2610.39954 的工作 'When to spend privacy' 关注隐私预算的最优分配,研究在私有学习过程中何时、以何种比例支出隐私预算,以在给定总预算下最大化模型效果。## 当前焦点与观察点从近期工作看,privacy accounting 的研究重点正从“算得准”转向“用得好”:一方面通过 FFT 等数值技术加速审计计算,另一方面研究预算的时间分配与批次结构优化,追求同等隐私保证下更好的模型性能。值得关注的争议点在于,现有方法多依赖组合定理或数值近似,不同核算方式给出的隐私损失可能存在差距,如何在可验证性与计算效率之间取得平衡,仍是该领域的开放问题。对工程团队而言,选择哪种核算框架,将直接影响差分隐私部署时的模型质量上限。