Chinese contentPenn State 论文揭示 BadEvolve 攻击可让自进化智能体自种后门
做智能体的一定要看这篇:只要往学习集塞 20 个投毒任务,你的 agent 就会把后门写进自己的技能库,Kimi-K2.5 上成功率 79.6%,性能掉不到 1 个点,基本察觉不到。比以前的直接改技能文件的攻击假设现实得多,用外部任务训练 agent 的团队都得防着点。
做智能体的一定要看这篇:只要往学习集塞 20 个投毒任务,你的 agent 就会把后门写进自己的技能库,Kimi-K2.5 上成功率 79.6%,性能掉不到 1 个点,基本察觉不到。比以前的直接改技能文件的攻击假设现实得多,用外部任务训练 agent 的团队都得防着点。