AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:多智能体框架×
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
5月19日
11:44
11:44arXiv cs.AI@Mengyu Sun, Ziyuan Yang, Zunlong Zhou, Junxu Liu, Haibo Hu, Yi Zhang
精选
扩散模型在文本到图像生成中广泛应用,但概念擦除方法常被用于移除不安全内容。然而,研究表明这些方法往往只是抑制而非彻底消除目标概念,模型仍易受唤醒攻击。现有方法多依赖白盒访问,黑盒场景下的概念唤醒尚未被充分探索。本文提出ConceptAgent,一种无需训练的黑盒多智能体框架,通过从代理引导的噪声状态初始化去噪轨迹,成功唤醒被擦除的概念。实验表明,该方法在黑盒设置下无需模型参数或梯度即可实现准确可控的概念唤醒,揭示了当前概念擦除方法的根本局限性。
论文扩散模型概念擦除多智能体框架黑盒攻击AI安全

推荐理由:做AI安全或内容审核的团队会发现,当前概念擦除方法存在根本漏洞——ConceptAgent无需模型内部信息就能绕过防御。做扩散模型研究的开发者值得看看这篇,它揭示了语义控制动态性的新视角。
原文
精选全部日报登录