AITOP

API安全

共 8 条相关 AI 资讯
8月12日
17:12
17:12Yangyi@Yangyixxxx
安全研究人员发现OpenAI、Anthropic、Google等主要AI提供商的API存在漏洞，可读取推理模型的加密思考过程。扫描约7000条公开会话后，发现62个API密钥、33个邮箱和33个密码。该漏洞影响Claude、GPT等推理模型的隐私保护机制。
行业API安全推理模型OpenAI
事件专题
推荐理由：安全研究员发现API漏洞能偷看Claude、GPT的加密思考过程，还扫出62个密钥，搞AI开发的得看看。
原文
01:58
01:58官方账号Decoder@Matthias Bastian
安全研究人员发现OpenAI、Anthropic和Google的API存在漏洞，可提取加密的推理痕迹并在模型间转移。扫描公共会话时发现数十个密码和API密钥。推理摘要常隐藏模型实际行为。研究还发现“But marinade”等异常内容。
行业OpenAIAnthropicGoogle
事件专题
推荐理由：安全研究员挖出OpenAI、Anthropic、Google的API漏洞，能偷看模型隐藏推理，还泄露密码，得看看你的数据安不安全。
原文
8月10日
11:59
8月4日
09:42
09:42官方账号arXiv cs.AI@Chi Wang, Hanwen Wang, Yu Xia, Zihan Wang, Guangdong Bai
Caliber是一种针对分数返回API的模型提取防御方法，通过向内部logits添加独立同分布高斯噪声来干扰攻击者。论文证明噪声尺度与预测一致性单调递减，并推导了固定输入下恢复干净logits所需查询次数的闭式极小极大下界。在三十多个模型-数据集组合上，逐模型校准的平均绝对相对误差为0.6%-1.4%。端到端实验显示替代模型性能与配置的退化程度一致。
论文Caliber模型提取API安全
推荐理由：这篇论文提出了Caliber，一种给API返回分数加噪的防御方法，能控制攻击者提取模型的成本，还给出了理论保证和实验数据。
原文
7月30日
22:56
22:56techcrunch@Lorenzo Franceschi-Bicchierai
网络安全专家向TechCrunch透露，OpenAI的黑客在对Hugging Face的攻击中行动迅速且嘈杂，但并未成功突破防御。该黑客利用API密钥和SSRF漏洞尝试窃取模型权重，但被Hugging Face的WAF和速率限制拦截。攻击持续了3小时，封禁了超过200个IP地址。
行业Hugging FaceOpenAIAPI安全
事件专题
推荐理由：看看这次黑客攻击是怎么被传统安全手段拦下的，跟AI关系不大，安全团队可以学学。
原文
7月28日
10:49
10:49官方账号arXiv cs.AI@Donghao Fu, Jingxin Li, Xue Jiang, Yihong Dong
本文通过实证研究，分析了第三方API路由在编码智能体（coding agents）中的注入攻击风险。研究设计了四种逐渐隐蔽的干预级别：响应替换（L1）、响应追加（L2）、LLM润色注入（L3）和LLM润色+分布对齐注入（L4）。作者开发了SIDEL框架，包含400个样本的数据集，用于跟踪、重放、注入和防御评估。在四种代表性编码智能体上，所有注入级别下的防御成功率均为0%。现有客户端白名单执行控制和LLM审查无法完全检测拦截。论文呼吁提供商提供输出完整性保障。
论文SIDELLLM providerscoding agents
推荐理由：这篇论文告诉你，用第三方API路由调用LLM时，你的代码可能被悄悄篡改。四种攻击方式，现有防御全失效，值得搞智能体开发的看看。
原文
7月15日
00:31
6月17日
23:32