#BadEvolve

1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "BadEvolve", newest first.
Nov 18
PapersBuildersSelected00:35
Chinese contentPenn State 论文揭示 BadEvolve 攻击可让自进化智能体自种后门

做智能体的一定要看这篇:只要往学习集塞 20 个投毒任务,你的 agent 就会把后门写进自己的技能库,Kimi-K2.5 上成功率 79.6%,性能掉不到 1 个点,基本察觉不到。比以前的直接改技能文件的攻击假设现实得多,用外部任务训练 agent 的团队都得防着点。

rohanpaul_ai@rohanpaul_aiSource