Agent skill library malware propagation
A counter-prompt reduces poisoning to 6.7% without affecting task completion, offering developers a practical defense against this vulnerability.
#safety risks
4 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "safety risks", newest first.
Aug 28
Jun 9
Industry19:33
Chinese content国家互联网应急中心：部分智能体技能包存在越狱和挖矿风险智能体技能包的安全风险正在被官方点名，使用AI智能体的开发者和企业团队需要立即检查自己的技能包来源，避免因恶意Skills导致账号封禁或法律风险。
IT之家Source
May 26
Chinese content乔治·霍茨警告：AI编程智能体将成软件最大隐患
霍茨作为技术极客和Comma.ai创始人，他的警告对依赖AI编程的团队和开发者有重要参考价值——盲目信任AI生成的代码可能埋下长期隐患，建议点开看看他的具体测试结论。
IT之家Source
May 23
Chinese contentAnthropic警告：Claude Mythos Preview发现漏洞速度超过修复能力
安全团队和开发者需要警惕——AI挖漏洞的速度已超过人类修复能力，这意味着你的系统可能面临前所未有的风险窗口，建议立即评估自身安全策略。