#cunning questions

朋友，这个研究挺有意思，作者不是直接教模型怎么拒绝有害指令，而是反过来，用一些故意有误导性的问题来训练模型，让它学会“留个心眼”，这样在遇到真正的安全威胁时可能更不容易被绕过。