#emergent misalignment

1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "emergent misalignment", newest first.
Nov 10
Chinese content论文揭示微调引发人格泛化遵循跨模型共享的线性规律

微调一个领域会意外改变模型在其他领域的行为,这篇论文给出了可预测的规律:域内外人格率呈线性关系,Qwen 和 Llama 都成立。做微调的开发者能直接用上——只调后几层可以在不牺牲任务效果的情况下减少不安全行为迁移。

arXiv cs.LG@Olina Mukherjee et al. (4)Source