11:53arXiv cs.AI@Siya Yang, Nanxiang Jiang, Zhaoxin Fan, Yunfeng Diao该论文针对视觉自回归(VAR)模型提出语义奇异性公理,认为目标语义概念在Scale-0阶段被锁定。通过增量语义显著性分析(ISSA)验证该公理,并首次提出尺度感知的概念擦除框架(SACE)。SACE仅在第一尺度进行干预,结合熵正则化擦除目标和恢复性损失,防止高熵采样退化并保持良性先验完整性。实验表明该方法在多个领域实现精准概念擦除,训练开销极小。论文SACEVAR概念擦除语义奇异性AI安全推荐理由:这篇论文解决了VAR模型的安全对齐难题,发现只需在生成的第一阶段做干预就能擦除指定概念,比扩散模型方法更高效。代码已开源,可快速应用。原文
11:44arXiv cs.AI@Mengyu Sun, Ziyuan Yang, Zunlong Zhou, Junxu Liu, Haibo Hu, Yi Zhang精选扩散模型在文本到图像生成中广泛应用,但概念擦除方法常被用于移除不安全内容。然而,研究表明这些方法往往只是抑制而非彻底消除目标概念,模型仍易受唤醒攻击。现有方法多依赖白盒访问,黑盒场景下的概念唤醒尚未被充分探索。本文提出ConceptAgent,一种无需训练的黑盒多智能体框架,通过从代理引导的噪声状态初始化去噪轨迹,成功唤醒被擦除的概念。实验表明,该方法在黑盒设置下无需模型参数或梯度即可实现准确可控的概念唤醒,揭示了当前概念擦除方法的根本局限性。论文扩散模型概念擦除多智能体框架黑盒攻击AI安全推荐理由:做AI安全或内容审核的团队会发现,当前概念擦除方法存在根本漏洞——ConceptAgent无需模型内部信息就能绕过防御。做扩散模型研究的开发者值得看看这篇,它揭示了语义控制动态性的新视角。原文