风险治理相关 AI 资讯 · AI 热点

8月10日

11:16

11:16

官方账号arXiv cs.AI@Afreen Alam, Evgenija Popchanovska, Ana Gjorgjevikj, Maryan Rizinski, Lubomir T. Chitkushev, Irena Vodenska, Dimitar Trajanov

论文提出用LLM辅助的RAG管道分析21个开源AI安全工具，将其能力映射到MIT AI风险分类的32个子类。三名评审的评估显示中等一致性（Fleiss' Kappa = 0.509）。结果显示工具集中在技术和运营控制，而治理、法律和金融控制几乎空白。多数投票后映射协议F1分数达75.5%。

论文开源工具 AI安全 RAG

推荐理由：把21个开源AI安全工具对照MIT风险分类，发现都堆在技术防护，法律金融没人管。做治理的值得翻翻。