#对抗防御

这篇论文提出了Caliber，一种给API返回分数加噪的防御方法，能控制攻击者提取模型的成本，还给出了理论保证和实验数据。

这篇论文揭示了有害微调的新方式，提出Embedded Attack和DR-SFT，对AI安全研究者很有启发。