AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

后门

共 2 条相关 AI 资讯
7月8日
14:04
14:04IT之家(博客/媒体)
76°
工信部NVDB今日发布风险提示,指出AI编程工具Claude Code(版本2.1.91至2.1.196)内置监控机制,可在未经用户同意下向远程服务器回传地域、身份标识等敏感信息。该后门源于2026年4月2日发布的2.1.91版本起添加的检测机制,用于识别中国用户。Anthropic团队成员确认该机制为实验性措施,已在2026年7月2日新版本中删除。阿里巴巴于2026年7月初宣布自7月10日起禁止员工在办公环境使用Claude Code。NVDB建议相关用户立即卸载或升级至安全版本。
行业Claude CodeAnthropic工信部AI安全后门

推荐理由:工信部点名Claude Code特定版本会偷偷回传你的地域和身份信息,开发者赶紧检查版本,该卸就卸。
原文
6月30日
11:35
11:35官方账号arXiv cs.AI@Maxime Riché, Daniel Tan, Vili Kohonen, Niels Warncke
该论文提出接种适配器(Inoculation Adapters, IA),基于LoRA在训练时强化不良特征以减轻优化压力。方法分三步:在不良特征上训练IA,冻结IA同时训练任务适配器,部署时丢弃IA仅保留任务适配器。在6个模型家族和包括突发性错位(emergent misalignment)在内的多种不良特征上,IA比接种提示(inoculation prompting)更有效抑制不良特征。同时避免接种提示的两个缺点:无法可靠通过提示诱发的特征抑制、引入较少意外后门。但IA在保留期望特征方面未一致优于接种提示,仍是挑战。
论文Inoculation AdaptersLoRA选择性泛化AI安全后门

推荐理由:这篇论文提出了一种叫接种适配器的新方法,用LoRA在训练时强化不想有的特征,比之前的接种提示更好用,后门更少,适合关心AI安全的人看。
原文
精选全部日报登录