AITOP

风险分类

共 2 条相关 AI 资讯
7月13日
10:30
10:30官方账号arXiv cs.AI@Hannah M. Liu, Rhea Saxena, Shiv Asthana
TrustX Agent Risk Classification Framework (ARC) 提出一种可重复的结构化方法，适用于七类智能体AI系统。框架核心是一个十二维度评分规则，结合GPA+IAT分类模型和五级自主性框架，输出三级治理输出与映射控制建议。还包含专门的编程助手扩展，处理此类AI系统的细微差别。该框架面向AI治理从业者、风险官、开发者和监管者，并计划定期迭代。
论文TrustX Agent Risk Classification FrameworkARC智能体
推荐理由：这篇论文给了一套为智能体AI系统定风险等级的方法，有十二个打分维度，还专门考虑了编程助手场景，做AI治理的可以看看。
原文
7月3日
09:40
09:40官方账号arXiv cs.AI@Gemma Galdon Clavell, Pablo Accuosto, Usman Gohar
该论文指出至少74种现有AI风险分类法几乎都止步于风险目录，缺乏实操。Eticas AI Risk Taxonomy v2.0.0 提出从概念到可衡量发现的桥梁，涵盖10个类别、20个子组、76个活跃子类别，并映射到18个外部框架。以GPT-4-0314上的PII泄露风险为例，在对抗性条件增强下披露率从0%升至84%，对应SYSTEMIC模式E级评分。分类法和子组以CC BY 4.0开源发布，提供稳定URI和SKOS/JSON-LD分发。
论文Eticas AI Risk TaxonomyGPT-4-0314AI审计
推荐理由：这篇论文真正解决了AI审计“光列风险但不教你怎么测”的痛点，用GPT-4实测PII泄露，给了一个可复现的评分样例。分类法开源了，想搞审计的可以直接用。
原文