#fine-tuning safety
4 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "fine-tuning safety", newest first.
Sep 30
Jul 7
Papers12:11
Chinese contentLearning Only What Valid Adapters Can Express: Subspace-Constrained Adaptation Against Fine-Tuning Poisoning这篇论文告诉你一个防止投毒攻击的微调方法：只学有效适配器的子空间，在flan-t5-large上比LoRA安全很多。
May 14
Chinese content人格模型崩溃：微调导致大模型角色分化失控
做AI安全和对齐的研究者、模型微调工程师值得关注——这项研究用两个量化指标揭示了有害微调如何让模型角色扮演能力崩溃，比单纯看输出内容更早发现问题。建议点开看看指标计算方法。
May 13
Chinese contentOvertrained, Not Misaligned：大模型微调中的“突发性错位”可避免
做LLM微调的团队终于有了避免“突发性错位”的实操指南——早期停止就能保留93%性能，建议所有做安全对齐的工程师点开看看具体阈值。