09:16
arXiv: OpenAI@Md Jafrin Hossain, Mohammad Arif Hossain, Weiqi Liu, Nirwan Ansari
精选
推荐理由：做AI智能体部署的团队必须看——LangChain等主流框架在公共场景下存在严重安全漏洞，一次内存攻击就能让政府福利系统错误拒绝率飙到88.9%，建议立即检查自己的智能体架构。
精选
过去 24 小时，从 663 条中筛出 45 条
6月12日
09:16
一项新研究对LangChain、AutoGPT和OpenAI Agents SDK三大主流智能体框架进行安全审计，发现它们均未提供架构级结构安全保证。其中，内存完整性——防御最常见漏洞类别的关键机制——在三个框架中均缺失。实验表明，基于LangChain构建的政府福利智能体，一次内存投毒攻击即可使目标申请人的错误拒绝率升至88.9%，且难以通过标准监控检测。研究者提出了两种轻量级防护机制（内存完整性验证器和策略门），可在亚毫秒开销内消除攻击向量。该研究警示，当前智能体框架生态可能尚未达到面向公众部署的默认安全标准。
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
6月1日
00:09
AITOP6月1日 00:09
5月13日
19:12
19:12
arXiv: Anthropic@Neil Fendley, Zhengyu Liu, Aonan Guan, Jiacheng Zhong, Yinzhi Cao
精选85°
推荐理由：这是首个系统研究AI工作流安全风险的工作，使用GitHub Actions或n8n的开发者应立刻检查自己的工作流是否暴露在类似攻击下，建议点开了解具体攻击路径和防护建议。