#inoculation prompting

1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "inoculation prompting", newest first.
Nov 18
Chinese content研究发现激活状态相似度可预测 inoculation 提示下有害行为的复现

做模型安全或对齐研究的同学值得看这篇:它把"被压住的行为为什么会复活"的判断标准从文本相似度换成了激活状态相似度,比字面匹配更准。如果你在用 inoculation prompting 训练模型,这篇能帮你评估 eval 提示下行为残留的风险。

arXiv cs.AI@Rose N. Kwon et al. (5)Source