对抗训练相关 AI 资讯 · AI 热点

7月2日

10:25

10:25

官方账号arXiv cs.AI@Mehul Damani, Isha Puri, Idan Shenfeld, Jacob Andreas

该论文提出对抗生成器-判别器框架，将可验证奖励（RLVR）与人类演示信号结合。在bug修复任务中，该方法在匹配RLVR基线性能的同时，将编辑距离显著降低。在故事生成任务中，该方法将胜率提升，并产出更接近人类的多样故事。在奖励黑客基准测试中，该方法几乎消除模型异常行为，同时保持高分。

论文 RLVR 对抗训练语言模型训练可验证奖励人类演示

推荐理由：这篇论文能让AI不仅算对答案，还能写出像人话的风格，用对抗训练把RLVR和人类示范结合起来，效果很实在。

7月1日

10:58

10:58

官方账号arXiv cs.LG@Yalin E. Sagduyu, Tugba Erpek, Aylin Yener, Sennur Ulukus

论文研究 relay-assisted 语义通信系统的隐私问题，指出中继节点即使无源数据也能可靠推断语义并重构信号，其性能与合法接收器相当。提出迭代对抗训练框架，通过交替优化中继窃听与合法系统，在保持合法接收器解码性能的同时显著抑制中继推理。合法与窃听端语义精度差距在多种信道条件下扩大，实现隐蔽隐私保护。方法基于高保真重构与选择性语义抑制的平衡。

论文语义通信隐私保护对抗训练中继网络

推荐理由：这篇论文点出了中继语义通信里一个隐蔽的隐私漏洞，用对抗训练把合法和窃听者的语义差距拉大，做法很直接有效。

5月25日

11:17

11:17

官方账号arXiv cs.AI@Haoyuan Wang, Xiaohao Liu, Jiajie Su, Jianmao Xiao, Chaochao Chen

精选

多模态大模型需要高效更新知识，但现有方法在语义等价变体上泛化不足。论文提出ASAM框架，包含Latent Adversarial Robustification（LAR）生成对抗变体，以及Rank-Constrained Subspace Learning（RCSL）通过低秩对齐增强编辑鲁棒性。实验表明该方法在保持可靠性和局部性的同时，显著提升了跨视觉和语言变体的泛化能力。这项工作为多模态知识编辑的鲁棒性提供了新思路。

论文多模态大模型知识编辑对抗训练子空间学习泛化性

推荐理由：做多模态大模型知识更新的研究者会关注——ASAM解决了编辑后泛化差的痛点，用对抗子空间对齐让模型对语义等价变体也生效，值得在MLLM编辑任务上试试。

5月22日

11:03

11:03

官方账号arXiv cs.AI@Sadia Asif, Mohammad Mohammadi Amiri, Momin Abbas, Prasanna Sattigeri, Karthikeyan Natesan Ramamurthy

精选

基于大语言模型的多智能体系统常通过中间通信协调任务，其中通过Transformer的KV缓存进行潜在通信能提升效率并保留更丰富的任务相关信息。但KV缓存会编码上下文输入、中间推理状态和智能体特定信息，形成不透明通道，可能导致敏感内容在智能体间传播而无需显式文本披露。为此，研究者提出LCGuard框架，将共享KV缓存视为潜在工作记忆，在缓存工件传输前学习表示级变换。通过对抗训练形式化敏感信息泄露：若对抗解码器能从共享缓存中恢复智能体特定敏感输入，则视为不安全。实验表明，LCGuard在多个模型家族和多智能体基准上持续降低基于重建的泄露和攻击成功率，同时保持与标准KV共享基线相当的任务性能。

论文多智能体系统 KV缓存安全/隐私对抗训练 LCGuard

推荐理由：多智能体系统开发者终于有了保护KV缓存中隐式敏感信息的方案——LCGuard在不牺牲任务性能的前提下阻断信息重建攻击，做分布式AI协作的团队值得关注。