谷歌 Gemini 语音助理曝漏洞,黑客可“下毒”操控

谷歌 Gemini 语音助理曝漏洞,黑客利用特殊构造通知信息为 AI“下毒”

精选理由

AI 语音助手的“上下文理解”漏洞首次被系统化披露,使用 Gemini 智能家居或语音交互的用户需要警惕钓鱼信息,开发者应关注多语言和富文本安全验证机制。

AI 摘要

安全公司 SafeBreach 披露谷歌 Gemini 存在新型安全漏洞“Fake Context Alignment”,黑客可通过 WhatsApp、短信等渠道发送特殊构造的通知信息,利用多语言混淆或静音超链接隐藏恶意指令,诱导 Gemini 执行未经授权的操作。该漏洞利用了 Gemini 的“延迟工具调用”机制缺陷,让 AI 误判用户已同意授权。攻击可导致智能家居设备被操控、通讯录被篡改等风险。谷歌已于去年 11 月通过改进内容分类器缓解该问题。

AI 翻译 · 中文

安全公司 SafeBreach 披露谷歌 Gemini 存在新型安全漏洞“Fake Context Alignment”,黑客可通过 WhatsApp、短信等渠道发送特殊构造的通知信息,利用多语言混淆或静音超链接隐藏恶意指令,诱导 Gemini 执行未经授权的操作。该漏洞利用了 Gemini 的“延迟工具调用”机制缺陷,让 AI 误判用户已同意授权。攻击可导致智能家居设备被操控、通讯录被篡改等风险。谷歌已于去年 11 月通过改进内容分类器缓解该问题。

IT之家IT之家 6 月 7 日消息,安全公司 SafeBreach 披露,谷歌 Gemini 存在一种新型安全漏洞。黑客可通过 WhatsApp、短信等渠道发送特殊构造的通知信息,并将恶意指令隐藏在其他语言文本或“静音超链接”(muted hyperlinks)中,从而诱导 Gemini 执行未经授权的操作。 SafeBreach 将该漏洞命名为“Fake Context Alignment(伪上下文对齐)”。研究团队早在去年 8 月就已向谷