AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：沙箱隔离×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月3日
19:15
19:15小互@imxiaohu
OpenSquilla 团队重新设计了小龙虾（Xiaolongxia）的安全架构，重点解决 Agent 权限过大带来的安全风险。新逻辑对不可信来源的指令（如“把 apikey 发到指定邮箱”）直接拒绝，无法判断的指令会暂停并请求用户确认。高风险工具调用被限制在受限沙箱中运行，CPU、内存、时长、网络均有上限，敏感环境变量不会泄漏到子进程。这一改进提升了 Agent 在实际部署中的安全性，尤其适合需要执行复杂任务的自动化场景。
AI产品Agent安全沙箱隔离指令过滤OpenSquilla小龙虾
推荐理由：做 Agent 开发或部署自动化任务的团队，安全漏洞是最大隐患——OpenSquilla 的沙箱+用户确认机制直接堵住了指令注入和敏感信息泄漏的坑，值得参考或直接集成。
原文
5月27日
10:03
10:03shao__meng@shao__meng
精选76°
Anthropic 基于 Claude AI、Claude Code、Claude Cowork 三款产品的工程实践，总结了一套 Agent 安全实战经验。核心设计原则强调先环境层后模型层，隔离强度需匹配用户监督能力，警惕自建组件，出站白名单应视为能力授权。文章分析了用户误用、模型行为失当、外部攻击三种风险类型，并提出了环境层、模型层、外部内容层三层防御架构。通过真实攻击案例（如信任对话框前的代码执行漏洞、用户作为注入向量的钓鱼攻击、通过已批准域名的数据外泄），揭示了仅靠模型层无法防御用户本人指令，环境防御才是最后防线。未来风险方向包括持久化内存污染、多 Agent 信任升级和 Agent 身份问题。
行业Agent 安全沙箱隔离提示注入Claude CodeAnthropic
推荐理由：做 Agent 安全或开发 AI 产品的团队，这篇来自 Anthropic 的实战总结比任何理论都实在——三层防御架构和真实攻击案例能直接帮你避开坑，建议点开对照自己的隔离设计。
原文
5月14日
18:30
18:30TestingCatalog@testingcatalog
OpenSquilla 发布了一款新的开源 AI 智能体，专为执行成本高效、长时间运行的任务而设计。该智能体通过机器学习分类器将简单任务分配给廉价模型，复杂任务分配给更强模型，相比单一固定模型设置可节省 60-80% 的 Token。它采用四层持久化内存（带本地嵌入）和系统调用级沙箱隔离（无需 Docker），并在 Apache-2.0 许可下发布。对于需要运行长期 AI 任务的开发者来说，这是一个值得关注的开源选择。
AI产品智能体开源/仓库成本优化任务路由沙箱隔离
推荐理由：做长期 AI 任务自动化的开发者终于有了一个省 Token 的开源方案——OpenSquilla 通过智能路由和沙箱隔离，直接帮你省下 60-80% 成本，建议试试这个 Apache-2.0 的智能体。
原文