AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:安全/防护×
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
08:02
08:02AI SDK@aisdk
AI SDK 推出新功能,允许开发者通过 Open Policy Agent 为智能体工具调用设置运行时防护栏。这些策略以代码形式定义,可在智能体执行过程中实时拦截和审核工具调用,防止其做出意外或危险的操作。该功能解决了 AI 智能体在生产环境中可能“失控”的核心安全问题,让开发者能更安全地部署自主代理。目前该功能已可用,适合需要精细控制智能体行为的团队。
AI产品智能体安全/防护Open Policy AgentAI SDK工具调用

推荐理由:做 AI 智能体的开发者终于有了运行时安全网——用代码定义策略来防止工具调用失控,比事后补救靠谱太多,建议直接集成到你的 agent 工作流里。
原文
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
5月27日
12:18
12:18arXiv: DeepSeek@Dongxu Yang
精选72°
Device Context Protocol (DCP) 是一种专为微控制器设计的轻量级协议,典型帧小于 50 字节,支持能力范围检查、类型检查、试运行评估和单位即类型等安全原语。与 MCP 和 IoT-MCP 不同,DCP 在主机侧通过 Bridge 拒绝幻觉或提示注入的调用,确保物理设备安全。参考实现在 ESP32 上仅需 27.6 KB 闪存和 0.6 KB RAM。实验表明,DCP 能 100% 阻止能力升级攻击,78% 阻止提示注入攻击,而 MCP 和 IoT-MCP 的阻止率仅为 0-1%。DCP 填补了 MCP 与物理设备之间的空白,为 LLM 控制受限硬件提供了安全基础。
论文协议/标准安全/防护物联网/嵌入式LLM/工具调用开源/仓库

推荐理由:做物联网或嵌入式 AI 的开发者终于有了一个能安全控制微控制器的协议——DCP 在 50 字节内实现了 MCP 无法提供的安全防护,建议直接看论文和开源实现。
原文
精选全部日报登录