AITOP

AI审计

共 3 条相关 AI 资讯
8月6日
09:37
09:37官方账号arXiv cs.AI@Leah Davis, Dominic Martin, AJung Moon
本综述扫描了4,259篇文献，最终纳入58项AI审计研究。通过反思性主题分析，发现现有审计很少针对系统集成特有风险。研究将系统集成审计分为组件间、系统-环境、多系统三类。这些审计评估兼容性、完整性和监督等集成特质。综述建议AI社区将系统集成作为审计核心策略。
论文AI审计系统集成审计综述
推荐理由：想了解AI审计盲区？这篇综述翻了4259篇文献，发现只有58篇关注系统集成，现有审计忽略了组件交互风险，值得看看。
原文
7月9日
05:28
05:28官方账号OpenAI@OpenAI
OpenAI 在审计 SWE-Bench Pro 时部署了模型驱动的调查代理，并搭配五名独立资深软件工程师进行人工复审。该方法在规模化检查任务的同时保持专家判断为核心。审计结果未被详细披露，但流程强调了自动代理与人工协作的可行性。
行业SWE-Bench ProOpenAI模型驱动代理
事件专题
推荐理由：OpenAI 公布了一种审计 SWE-Bench Pro 的新方法，结合模型代理和五名资深工程师的独立评审，适合关注基准测试可靠性和自动审计的朋友。
原文
7月3日
09:40
09:40官方账号arXiv cs.AI@Gemma Galdon Clavell, Pablo Accuosto, Usman Gohar
该论文指出至少74种现有AI风险分类法几乎都止步于风险目录，缺乏实操。Eticas AI Risk Taxonomy v2.0.0 提出从概念到可衡量发现的桥梁，涵盖10个类别、20个子组、76个活跃子类别，并映射到18个外部框架。以GPT-4-0314上的PII泄露风险为例，在对抗性条件增强下披露率从0%升至84%，对应SYSTEMIC模式E级评分。分类法和子组以CC BY 4.0开源发布，提供稳定URI和SKOS/JSON-LD分发。
论文Eticas AI Risk TaxonomyGPT-4-0314AI审计
推荐理由：这篇论文真正解决了AI审计“光列风险但不教你怎么测”的痛点，用GPT-4实测PII泄露，给了一个可复现的评分样例。分类法开源了，想搞审计的可以直接用。
原文