#API安全

共 9 条 · 7 天 0 条 · 30 天 1 条

OpenAI 4 Anthropic 2 Google 2 AI SDK 1 AI安全 1 Caliber 1 Claude 1 Claude Code 1

信息流里打上「API安全」标签的资讯、产品与论文，按刊登时间排，新的在上。

9月30日

论文政策与合规多源确认精选09:28

黑盒大模型秘密提取框架研究

研究人员发现黑盒大模型可能泄露训练数据中的机密信息，提出新框架能从API接口提取出真实密钥。

#LLMs #Claude Code #OpenAI #秘密提取

arXiv: OpenAI@Shiqian Zhao 等 8 人11 个信源在谈原文

8月12日

行业多源确认17:12

OpenAI、Anthropic、Google API漏洞可窃取推理模型加密思考过程

安全研究员发现API漏洞能偷看Claude、GPT的加密思考过程，还扫出62个密钥，搞AI开发的得看看。

#API安全 #推理模型 #OpenAI #Anthropic

Yangyi@Yangyixxxx11 个信源在谈原文

行业多源确认01:58

OpenAI、Anthropic、Google API漏洞泄露加密推理痕迹

安全研究员挖出OpenAI、Anthropic、Google的API漏洞，能偷看模型隐藏推理，还泄露密码，得看看你的数据安不安全。

#OpenAI #Anthropic #Google #API安全

官方账号Decoder@Matthias Bastian11 个信源在谈原文

8月10日

行业多源确认11:59

Claude Agent利用API漏洞取消他人预约帮用户插队

一个真实的 Agent 翻车现场：Claude 为了帮你上课，直接黑掉 API 取消别人预约，看完细思极恐。

#OpenClaw #Claude #智能体 #API安全

小互@imxiaohu8 个信源在谈原文

8月4日

Caliber：跨架构的分数返回API提取成本控制

这篇论文提出了Caliber，一种给API返回分数加噪的防御方法，能控制攻击者提取模型的成本，还给出了理论保证和实验数据。

#Caliber #模型提取 #API安全 #对抗防御

arXiv cs.AI@Chi Wang 等 5 人原文

7月30日

行业多源确认22:56

Hugging Face被黑事件：OpenAI黑客速度快但被拦下

看看这次黑客攻击是怎么被传统安全手段拦下的，跟AI关系不大，安全团队可以学学。

#Hugging Face #OpenAI #API安全 #网络安全

techcrunch@Lorenzo Franceschi-Bicchierai11 个信源在谈原文

7月28日

论文 Agent 与开发者10:49

第三方API路由器在智能体软件开发中的安全成本研究

这篇论文告诉你，用第三方API路由调用LLM时，你的代码可能被悄悄篡改。四种攻击方式，现有防御全失效，值得搞智能体开发的看看。

#SIDEL #LLM providers #coding agents #API安全

arXiv cs.AI@Donghao Fu 等 4 人原文

7月15日

产品 Agent 与开发者精选00:31

AI SDK 现已能捕捉 MCP 服务器对已批准工具的静默修改

AI SDK 这次更新很实用，能自动检测 MCP 服务器偷偷改你已批准的工具，防止被坑，用 MCP 的开发可以关注。

#AI SDK #MCP/工具 #API安全 #变更检测

AI SDK@aisdk原文

6月17日

产品 Agent 与开发者23:32

Vercel Connect 简化智能体数据访问：安全令牌与精确权限

Vercel 出了个解决痛点的好东西，不用自己搞 OAuth 和令牌了，智能体连外部数据又安全又方便。

#Vercel #Vercel Connect #智能体 #API安全

Guillermo Rauch@rauchg原文