Chinese contentEditSafetyBench 揭示图像编辑系统存在文本与视觉安全脱节
如果你在做图像生成或编辑类产品,这篇论文值得认真看:它用 5,940 个测试对证明 Gemini、GPT、Qwen 都会漏掉带风险的图片,只要指令写得中性就照样执行。安全审核只盯提示词的做法在这篇面前站不住脚。
如果你在做图像生成或编辑类产品,这篇论文值得认真看:它用 5,940 个测试对证明 Gemini、GPT、Qwen 都会漏掉带风险的图片,只要指令写得中性就照样执行。安全审核只盯提示词的做法在这篇面前站不住脚。