This research exposes a critical vulnerability in widely deployed LLMs that could lead to credential leakage from memorized training data. Security teams and developers using API-based LLMs should audit their systems for potential secret exposure and implement additional safeguards. The findings particularly impact enterprises in ASEAN regions where LLM adoption is accelerating but security practices may lag behind.
#API security
9 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "API security", newest first.
Sep 30
Secret Extraction Framework for Black-box LLMs
Aug 12
Chinese contentOpenAI、Anthropic、Google API漏洞可窃取推理模型加密思考过程
安全研究员发现API漏洞能偷看Claude、GPT的加密思考过程,还扫出62个密钥,搞AI开发的得看看。
Chinese contentOpenAI、Anthropic、Google API漏洞泄露加密推理痕迹
安全研究员挖出OpenAI、Anthropic、Google的API漏洞,能偷看模型隐藏推理,还泄露密码,得看看你的数据安不安全。
Aug 10
Aug 4
Papers09:42
Chinese contentCaliber:跨架构的分数返回API提取成本控制这篇论文提出了Caliber,一种给API返回分数加噪的防御方法,能控制攻击者提取模型的成本,还给出了理论保证和实验数据。
Jul 30
Jul 28
Chinese content第三方API路由器在智能体软件开发中的安全成本研究
这篇论文告诉你,用第三方API路由调用LLM时,你的代码可能被悄悄篡改。四种攻击方式,现有防御全失效,值得搞智能体开发的看看。
Jul 15
Chinese contentAI SDK 现已能捕捉 MCP 服务器对已批准工具的静默修改
AI SDK 这次更新很实用,能自动检测 MCP 服务器偷偷改你已批准的工具,防止被坑,用 MCP 的开发可以关注。
Jun 17
Chinese contentVercel Connect 简化智能体数据访问:安全令牌与精确权限
Vercel 出了个解决痛点的好东西,不用自己搞 OAuth 和令牌了,智能体连外部数据又安全又方便。