近 200 万条诱饵请求测试 AI 服务链隐私安全,发现泄密风险
近 200 万条请求揭开 AI 隐私漏洞:“零数据保留”也会泄密
做安全研究的 HD Moore 投了近 200 万条带追踪密钥的请求,抓到三家服务商被黑、转售商偷传数据,连“零数据保留”标签都不靠谱。做 AI 应用接入的朋友真该看看自己请求走了哪条链路。
安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送近 200 万条带有可追踪“诱饵”密钥的请求,于 11 月 21 日经 Ars Technica 公布调查结果。测试发现至少三家服务商出现遭入侵迹象,攻击者利用窃取的诱饵密钥发起了数万次云服务接口调用,尝试寻找更多凭证、开通服务并维持访问权限,部分密钥在提交后数小时内就被使用。
技术机制上,研究者故意投放可追踪的“测试秘密”,观察是否有其他程序或人拿这些凭证去访问系统,以判断数据从哪条服务链流出。风险主要来自层层转手的服务链:许多 AI 应用通过中间商分配请求,内容在多个平台各环节解密处理,部分转售商记录并外传请求。甚至有请求在模型运行前已被拒绝,其中的密钥仍被盗走。
对普通用户和企业而言,问题在于隐私标签并不可靠——一些标记“零数据保留”或“禁止数据收集”的请求,其中的私密网址在数日后仍被抓取。Moore 建议,敏感业务可考虑本地部署;无法自建的用户应尽量直接选择可信服务商,并明确指定上游提供方,避免请求经过不可控的中间环节。
近 200 万条请求揭开 AI 隐私漏洞:“零数据保留”也会泄密
IT之家 11 月 21 日消息,科技媒体 Ars Technica 今天(11 月 21 日)发布博文,报道称安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送近 200 万条带有可追踪“诱饵”的请求, 发现 AI 服务链存在黑客窃取提示词、转售商泄露数据及未遵守隐私设置等问题。 研究人员故意把一批可追踪的“测试秘密”(并非从真实用户渠道收集)发给 AI,观察之后有没有其他程序或人拿它们去访问系统,从而判断数据是否流出、可能从哪条服务链流出。 调查发现,至少三家服务商出现遭入侵迹象,攻击者利用窃取的诱饵密钥发起数万次云服务接口调用,尝试寻找更多凭证、开通服务并维持访问权限。部分密钥在提交后数小时内便被使用,甚至有请求在模型运行前已遭拒绝,其中的密钥仍被盗走。 风险还来自层层转手的服务链。许多 AI 应用通过中间商分配请求,内容可能经过多个平台,并在各环节解密处理。研究还发现,部分转售商记录并外传请求;一些标记“零数据保留”或“禁止数据收集”的请求,其私密网址仍在数日后遭到抓取。 Moore 建议,敏感业务可考虑本地部署;无法自建的用户应尽量直接选择可信服务商,并明确指定上游提供方。 IT之家附上参考地址 Three breaches, endless leaks: Your AI supply chain needs canaries
This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Key entities and technical topics under continuous tracking include AI safety, data privacy, Dragos, API security.
Source attribution: curated from IT之家.