10:57
官方账号arXiv cs.AI@Chengxiao Wang, Enyi Jiang, Xiaojing Liao, Sanmi Koyejo
推荐理由：CLEAR框架提出了一种新的LLM安全对齐方法，在保持模型效用的情况下显著提高了鲁棒性，对于关注LLM安全性和效用平衡的研究者来说是个重要进展。
效用平衡
共 1 条相关 AI 资讯
8月24日
10:57
提出CLEAR，一种条件安全适配框架，通过轻量级隐藏状态门控制安全低秩适配器的激活强度，旨在减少有害输出同时避免对良性提示的性能影响。实验表明，CLEAR在HarmBench上提高了鲁棒性，同时减少了SFT或LoRA等全局安全调整带来的效用损失。在Llama-3-8B-Instruct上，CLEAR将HarmBench ASR从32.3%降至0.5%，并保持了大部分基模型的效用，比全局SFT或LoRA提高了7.1个百分点的GSM8K准确率。