论文10:51
SteerCheck: Activation-Steering审计中的归因特异性和对齐泄漏SteerCheck是一个强大的审计工具，可以帮助研究人员识别和评估激活引导中的对齐泄漏问题，对于确保AI模型的可靠性和透明度非常有用。
#激活引导
共 4 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「激活引导」标签的资讯、产品与论文，按刊登时间排，新的在上。
8月26日
7月21日
6月2日
SafeSteer：局部化策略蒸馏实现高效安全对齐
SafeSteer 用极低成本（100 个样本）解决了安全对齐损害通用能力的痛点，做 LLM 安全或对齐的团队可以直接参考其局部化蒸馏方法，大幅减少数据依赖。
5月27日
CoT 让大模型拒绝机制更鲁棒：DeepSeek-R1 研究揭示双重编码
这项研究揭示了 CoT 在模型安全中的双重角色——既增强鲁棒性又引入新风险，做 AI 安全和对齐的团队值得关注，尤其是使用推理模型的开发者需要重新评估防御策略。