08:42
岚叔@lufzzliz
岚叔@lufzzliz推荐理由：语音AI的安全漏洞正在从文本扩展到音频，做语音助手或音频处理应用的开发者需要警惕，建议立即检查模型输入的安全防护。
AudioHijack
共 1 条相关 AI 资讯
5月19日
08:42
研究人员发现一种名为AudioHijack的新型攻击，将恶意指令隐藏在音频波形中，人耳无法察觉，但语音模型会将其作为输入指令处理。攻击成功率在13个主流音频模型中达79%到96%，可让模型搜索敏感信息、下载文件、发送邮件等。传统防御效果有限，常规检测仅降低7%成功率，自我检查也只抓住28%攻击。文章指出，语音AI的“听”与“动手”能力结合，使音频成为新的prompt injection入口，需要默认增加异常检测和工具权限隔离。