AI审计相关 AI 资讯 · AI 热点

7月9日

05:28

05:28

官方账号OpenAI@OpenAI

OpenAI 在审计 SWE-Bench Pro 时部署了模型驱动的调查代理，并搭配五名独立资深软件工程师进行人工复审。该方法在规模化检查任务的同时保持专家判断为核心。审计结果未被详细披露，但流程强调了自动代理与人工协作的可行性。

行业 SWE-Bench Pro OpenAI 模型驱动代理 AI审计软件工程基准

推荐理由：OpenAI 公布了一种审计 SWE-Bench Pro 的新方法，结合模型代理和五名资深工程师的独立评审，适合关注基准测试可靠性和自动审计的朋友。

7月3日

09:40

09:40

官方账号arXiv cs.AI@Gemma Galdon Clavell, Pablo Accuosto, Usman Gohar

该论文指出至少74种现有AI风险分类法几乎都止步于风险目录，缺乏实操。Eticas AI Risk Taxonomy v2.0.0 提出从概念到可衡量发现的桥梁，涵盖10个类别、20个子组、76个活跃子类别，并映射到18个外部框架。以GPT-4-0314上的PII泄露风险为例，在对抗性条件增强下披露率从0%升至84%，对应SYSTEMIC模式E级评分。分类法和子组以CC BY 4.0开源发布，提供稳定URI和SKOS/JSON-LD分发。

论文 Eticas AI Risk Taxonomy GPT-4-0314 AI审计风险分类开源模型

推荐理由：这篇论文真正解决了AI审计“光列风险但不教你怎么测”的痛点，用GPT-4实测PII泄露，给了一个可复现的评分样例。分类法开源了，想搞审计的可以直接用。