AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：AutoGPT×
6月16日
20:46
6月12日
12:57
09:16
09:16arXiv: OpenAI@Md Jafrin Hossain, Mohammad Arif Hossain, Weiqi Liu, Nirwan Ansari
精选
一项新研究对LangChain、AutoGPT和OpenAI Agents SDK三大主流智能体框架进行安全审计，发现它们均未提供架构级结构安全保证。其中，内存完整性——防御最常见漏洞类别的关键机制——在三个框架中均缺失。实验表明，基于LangChain构建的政府福利智能体，一次内存投毒攻击即可使目标申请人的错误拒绝率升至88.9%，且难以通过标准监控检测。研究者提出了两种轻量级防护机制（内存完整性验证器和策略门），可在亚毫秒开销内消除攻击向量。该研究警示，当前智能体框架生态可能尚未达到面向公众部署的默认安全标准。
论文智能体安全/漏洞LangChainAutoGPTOpenAI Agents SDK
推荐理由：做AI智能体部署的团队必须看——LangChain等主流框架在公共场景下存在严重安全漏洞，一次内存攻击就能让政府福利系统错误拒绝率飙到88.9%，建议立即检查自己的智能体架构。
原文
6月11日
15:28
15:23
15:07