AITOP

对抗训练

共 6 条相关 AI 资讯
8月11日
10:38
10:38官方账号arXiv cs.AI@Mengnan Zhao, Geyong Min, Lihe Zhang, Tianhang Zheng, Jie Cui
CGRm 是一种用于长尾对抗训练的插件式框架，利用有向鲁棒误差作为训练信号。它通过周期性鲁棒评估推导源类损失权重、类级鲁棒系数和有向混淆几何图。该方法将反馈加权鲁棒优化与图引导的边界校正相结合，提升脆弱类别的鲁棒性。在长尾基准上的实验显示，CGRm 相比现有方法取得一致的鲁棒性能提升，消融实验验证了各组件贡献。
论文CGRm长尾分布对抗训练
推荐理由：CGRm 解决了长尾对抗训练中类别不平衡和对抗放大双重问题，用混淆几何图精准定位关键边界，实验效果不错，值得做对抗训练的人看看。
原文
7月16日
02:25
7月2日
10:25
7月1日
10:58
10:58官方账号arXiv cs.LG@Yalin E. Sagduyu, Tugba Erpek, Aylin Yener, Sennur Ulukus
论文研究 relay-assisted 语义通信系统的隐私问题，指出中继节点即使无源数据也能可靠推断语义并重构信号，其性能与合法接收器相当。提出迭代对抗训练框架，通过交替优化中继窃听与合法系统，在保持合法接收器解码性能的同时显著抑制中继推理。合法与窃听端语义精度差距在多种信道条件下扩大，实现隐蔽隐私保护。方法基于高保真重构与选择性语义抑制的平衡。
论文语义通信隐私保护对抗训练
推荐理由：这篇论文点出了中继语义通信里一个隐蔽的隐私漏洞，用对抗训练把合法和窃听者的语义差距拉大，做法很直接有效。
原文
5月25日
11:17
11:17官方账号arXiv cs.AI@Haoyuan Wang, Xiaohao Liu, Jiajie Su, Jianmao Xiao, Chaochao Chen
精选
多模态大模型需要高效更新知识，但现有方法在语义等价变体上泛化不足。论文提出ASAM框架，包含Latent Adversarial Robustification（LAR）生成对抗变体，以及Rank-Constrained Subspace Learning（RCSL）通过低秩对齐增强编辑鲁棒性。实验表明该方法在保持可靠性和局部性的同时，显著提升了跨视觉和语言变体的泛化能力。这项工作为多模态知识编辑的鲁棒性提供了新思路。
论文多模态大模型知识编辑对抗训练
推荐理由：做多模态大模型知识更新的研究者会关注——ASAM解决了编辑后泛化差的痛点，用对抗子空间对齐让模型对语义等价变体也生效，值得在MLLM编辑任务上试试。
原文
5月22日
11:03
11:03官方账号arXiv cs.AI@Sadia Asif, Mohammad Mohammadi Amiri, Momin Abbas, Prasanna Sattigeri, Karthikeyan Natesan Ramamurthy
精选
基于大语言模型的多智能体系统常通过中间通信协调任务，其中通过Transformer的KV缓存进行潜在通信能提升效率并保留更丰富的任务相关信息。但KV缓存会编码上下文输入、中间推理状态和智能体特定信息，形成不透明通道，可能导致敏感内容在智能体间传播而无需显式文本披露。为此，研究者提出LCGuard框架，将共享KV缓存视为潜在工作记忆，在缓存工件传输前学习表示级变换。通过对抗训练形式化敏感信息泄露：若对抗解码器能从共享缓存中恢复智能体特定敏感输入，则视为不安全。实验表明，LCGuard在多个模型家族和多智能体基准上持续降低基于重建的泄露和攻击成功率，同时保持与标准KV共享基线相当的任务性能。
论文多智能体系统KV缓存安全/隐私
推荐理由：多智能体系统开发者终于有了保护KV缓存中隐式敏感信息的方案——LCGuard在不牺牲任务性能的前提下阻断信息重建攻击，做分布式AI协作的团队值得关注。
原文