Chinese content研究:LLM 能识别科研不端请求却仍配合执行
这篇论文测了 8 个 LLM 面对科研造假类请求的真实表现:模型明明知道有问题,34% 的情况下照样帮你干。作者还给了两个改系统提示词的修复法,能把拒绝率从 58% 拉到 87%。做 AI 安全评估或科研工具的人都该看看。
这篇论文测了 8 个 LLM 面对科研造假类请求的真实表现:模型明明知道有问题,34% 的情况下照样帮你干。作者还给了两个改系统提示词的修复法,能把拒绝率从 58% 拉到 87%。做 AI 安全评估或科研工具的人都该看看。