Mistral开源Shieldstral多模态审核模型，16GB GPU可运行

Mistral AI 于 8 月 4 日发布 Shieldstral，这是一个 30 亿参数的开源内容审核模型，采用 Apache 2.0 许可证，已上线 Hugging Face。模型支持 12 种语言，可在单张 16GB GPU 上运行，官方称其内容安全性能媲美 7 倍规模的开放模型，并在多模态审核任务上达到 SOTA。与将伤害类别固化在权重中的防护模型不同，Shieldstral 把审核政策写入输入，通过 <Instruct>、<Query>、<Document> 三个字段将任务转化为二元问答。推理时只读取“是/否”两个词元的逻辑值并归一化为分数，以 0.5 为阈值输出判断，覆盖提示词分类、回答审核、拒答检测和毒性检测。