#adversarial training

15 stories · 1 in 7 days · 5 in 30 days

AI safety 2 robustness 2 Adversarial Self-Distillation 1 AdvSim2Real 1 Android 1 AutoAttack 1 AutoML 1 CIFAR-100 1

Stories, products and papers tagged "adversarial training", newest first.

Nov 11

Papers11:47

Chinese content基于 Fisher 几何的置信度结构扰动对抗训练方法

对抗训练领域的老问题：很多攻击只是推高 loss，模型置信度其实没被真正扰动。这篇论文从 Fisher 信息矩阵几何角度重做了扰动生成，理论给得清楚，算法避开了高维矩阵计算。做鲁棒性研究的同学可以直接看实验部分和伪代码。

#adversarial training #robustness

arXiv cs.LG@Chenlong Wei et al. (6)Source

Nov 6

Papers13:43

Chinese content研究：大步长梯度下降在对抗训练中的隐式偏差与损失锐度行为

搞对抗训练的人可以看看这篇理论分析，它证明了用大步长训练也照样成立，不用非得用慢吞吞的小步长。

#adversarial training #gradient descent

arXiv cs.LG@Yi Feng, Andrea PaudiceSource

Oct 30

Papers Builders11:56

Chinese contentSAFT：只更新5%参数的稀疏对抗微调方法

这篇论文挺有意思：发现对抗鲁棒性其实藏在少数关键参数里，只微调约5%参数就能媲美全参数对抗训练，还比LoRA效果好。

#LoRA #SAFT #adversarial training #parameter-efficient fine-tuning

arXiv cs.LG@Zhaoxin Wang et al. (3)Source

Papers Policy10:46

Chinese contentAdversarial Self-Distillation：一种对抗攻击下的模型安全防御方法

论文提出 ASD，用模型自己的安全行为蒸馏给被攻击时的自己，连注入合规开头都能恢复拒答，比现有防御的攻击成功率更低。

#adversarial training #model security #Adversarial Self-Distillation #fine-tuning

arXiv cs.LG@Mohammad Sadegh Akhondzadeh et al. (3)Source

Oct 22

Papers Builders10:45

Chinese contentExGrad：对抗训练中显式减去干净梯度以提升鲁棒性

arXiv 上新出的对抗训练方法 ExGrad，靠减掉一部分干净梯度，在 CIFAR-100 和 ImageNet-100 上把 AutoAttack 鲁棒准确率实实在在抬了一截，做鲁棒性的可以看。

#ExGrad #adversarial training #AutoAttack #PGD

arXiv cs.LG@Zhiyuan Ye et al. (5)Source

Oct 7

Papers Builders10:10

Chinese contentAdvSim2Real：在Web世界模型中同时训练任务、注入攻击与智能体

页面上的恶意提示能劫持浏览器智能体，这篇论文让任务、攻击和智能体在模拟器里互相对抗着变强，4B 小模型对未见攻击完成率提升 33.6%。

#AdvSim2Real #prompt injection #adversarial training #AI safety

arXiv cs.AI@Sarim Hashmi et al. (6)Source

Oct 6

Papers Builders10:50

Chinese content研究评估在线 AutoML 管线中 IoT 网络投毒攻击对抗训练防御效果

给做 IoT 安全的人：论文实测了 5 种流式学习器被投毒时的表现，AT-SRP 防标签翻转 F1 到 0.904，方法可复现。

#AutoML #adversarial training

arXiv cs.LG@Chukwunonso Henry Nwokoye et al. (3)Source

Sep 28

Papers09:18

Chinese content用最优传输几何改进对抗训练：arXiv 新研究提出两种提升鲁棒性的方法

把最优传输的数学搬到对抗训练里，还给出了两种可实现的改进算法，做鲁棒性研究的可以看看推导和实验设置。

#adversarial training #optimal transport #Wasserstein #DRO

arXiv cs.LG@Alireza Abdollahpoorrostam et al. (5)Source

Aug 31

Papers73°11:40

Chinese contentREPLICANT：规避与强化恶意软件检测器的新框架

REPLICANT 能让恶意软件绕过检测，还能帮安全人员训练更强大的检测器，效果提升近四成。

#REPLICANT #adversarial training #Android

arXiv cs.LG@Shae McFadden et al. (8)Source

Aug 11

Papers10:38

Chinese contentCGRm：面向长尾对抗训练的新重平衡方法

CGRm 解决了长尾对抗训练中类别不平衡和对抗放大双重问题，用混淆几何图精准定位关键边界，实验效果不错，值得做对抗训练的人看看。

#CGRm #adversarial training #robustness

arXiv cs.AI@Mengnan Zhao et al. (5)Source

Jul 16

Models US vs ChinaMulti-sourceSelected02:25

Chinese contentOpenAI 发布 GPT-5.6 Sol，对抗 prompt 注入失败率降低 6 倍

OpenAI 刚晒出 GPT-5.6 Sol，抗 prompt 注入比四个月前强了 6 倍，安全能力大幅提升。

#GPT-5.6 #GPT-Red #OpenAI #AI safety

Event

Official accountOpenAI@OpenAI (@OpenAI)Source

Jul 2

Papers10:25

Chinese content结合可验证奖励与人类演示的语言模型训练方法

这篇论文能让AI不仅算对答案，还能写出像人话的风格，用对抗训练把RLVR和人类示范结合起来，效果很实在。

#RLVR #adversarial training

arXiv cs.AI@Mehul Damani et al. (4)Source

Jul 1

Papers10:58

Chinese content语义通信中继辅助系统中的语义泄漏与隐私保护

这篇论文点出了中继语义通信里一个隐蔽的隐私漏洞，用对抗训练把合法和窃听者的语义差距拉大，做法很直接有效。

#privacy #adversarial training

arXiv cs.LG@Yalin E. Sagduyu et al. (4)Source

May 25

PapersSelected11:17

Chinese contentASAM：对抗子空间对齐实现鲁棒多模态知识编辑

做多模态大模型知识更新的研究者会关注——ASAM解决了编辑后泛化差的痛点，用对抗子空间对齐让模型对语义等价变体也生效，值得在MLLM编辑任务上试试。

#multimodal models #adversarial training

arXiv cs.AI@Haoyuan Wang et al. (5)Source

May 22

PapersSelected11:03

Chinese contentLCGuard：多智能体系统中安全KV缓存共享的潜在通信防护框架

多智能体系统开发者终于有了保护KV缓存中隐式敏感信息的方案——LCGuard在不牺牲任务性能的前提下阻断信息重建攻击，做分布式AI协作的团队值得关注。

#multi-agent systems #KV cache #adversarial training #LCGuard

arXiv cs.AI@Sadia Asif et al. (5)Source