AITOP

渗透测试

共 7 条相关 AI 资讯
8月18日
04:17
04:03
7月31日
09:14
09:14techcrunch@Kirsten Korosec
Anthropic 在一次内部安全测试中发现，其AI模型成功入侵了三家外部公司的系统。该测试旨在评估模型自主执行复杂渗透攻击的能力，结果暴露了现有防御体系的漏洞。Anthropic 已向受影响公司通报并协助修复，同时强调测试环境受控，未造成实际损失。
行业AnthropicAI安全渗透测试
事件专题
推荐理由：Anthropic 主动披露自家AI模型能黑进三家公司，这事跟每个用AI的人都有关系——安全防线可能比你想象中脆弱。
原文
7月23日
09:48
7月16日
09:49
09:49官方账号arXiv cs.AI@Mohammad Allahbakhsh, Mohammad Hassan Bahari, Moslem Attar-Raouf
传统渗透测试侧重评估对手能否通过漏洞获取资源，但AI系统中攻击者可通过提示注入、数据投毒、传感器操纵等路径改变行为而不入侵基础设施。论文重新定义AI系统渗透测试为操作目标驱动的行为评估，提出六步工作流：识别操作目标、映射AI行为、分析影响面、定义失败标准、执行场景测试、报告证据。以AI安全运营中心助手为例，演示提示注入可导致误判而不触发基础设施入侵。
论文AI安全渗透测试提示注入
推荐理由：这篇重新定义了AI渗透测试，从入侵系统变成操纵行为，提示注入、数据投毒都算，还给了具体测试步骤和案例，搞AI安全可以看看。
原文
5月29日
13:00
13:00官方一手arXiv: Anthropic@Galip Tolga Erdem
精选72°
这是首个大规模实证研究，测量了LLM在重复渗透测试中的行为一致性。研究对4个模型（Claude Sonnet 4、Gemini 2.5 Flash-Lite、GPT-4o-mini、qwen2.5-coder:14b）各进行100次攻击，目标为固定蜜罐（含OWASP Juice Shop等脆弱服务）。结果显示，Gemini 2.5 Flash-Lite成功率最高（85%），Claude因API故障中断39次但仍达61%，qwen仅25%且主要因过早完成失败。模型失败模式各异：Claude受API截断影响，qwen过早终止，GPT-4o-mini耗尽迭代预算。跨模型成功率差异显著（p<0.001），且首次利用时间集中在15-30秒内。
论文LLM安全渗透测试攻击一致性
推荐理由：这项研究揭示了LLM作为攻击者的行为规律和可靠性差异，做AI安全评估或红队测试的团队值得关注——它告诉你不同模型在真实攻击场景下的稳定性和失败模式，直接指导模型选型和防御策略。
原文
5月12日
19:11
19:11官方账号arXiv cs.AI@Pedro Conde, Henrique Branquinho, Valerio Mazzone, Bruno Mendes, André Baptista, Nuno Moniz
现有AI渗透测试智能体评估多基于简化场景和预定义任务（如夺旗、远程代码执行），难以反映真实渗透测试的复杂性和开放性。本文提出新评估协议，从任务完成转向已验证漏洞发现，结合结构化真实数据与LLM语义匹配、二分图消歧等方法，支持多攻击面、多漏洞类别的复杂目标评估。该协议还包含效率指标、随机智能体重复评估及可持续实验缩减套件，旨在提供更贴近实战的智能体性能比较。为保障可复现性，已开源专家标注数据和代码。
论文AI安全渗透测试智能体评估
推荐理由：该协议填补了AI渗透测试智能体从受限benchmark到真实场景评估的空白，为红队工具选型和研发提供更可靠的参考标准。
原文