Latest

Every published item, in order · 825 items
5月19日
5月18日
PapersSelected10:31
Chinese content层等价性测试方法不同,结果天差地别:Qwen3-8B和Llama-3.1-8B案例

做模型压缩或剪枝的团队,如果只用一种等价性测试就决定删层,可能会踩坑——这篇论文用Qwen3-8B和Llama-3.1-8B的对比告诉你,测试方法选错,安全剪枝的层数能差好几倍。建议在剪枝前先跑一下两种swap-KL诊断。

arXiv cs.LG@Gabriel GarciaSource
5月16日
5月15日
5月14日
PapersSelected13:27
Chinese content人格模型崩溃:微调导致大模型角色分化失控

做AI安全和对齐的研究者、模型微调工程师值得关注——这项研究用两个量化指标揭示了有害微调如何让模型角色扮演能力崩溃,比单纯看输出内容更早发现问题。建议点开看看指标计算方法。

arXiv: DeepSeek@Davi Bastos Costa, Renato VicenteSource
PapersSelected72°13:26
Chinese contentNegation Neglect:微调让模型把假新闻当真,安全风险凸显

这个发现戳穿了微调中“加否定声明就能纠正模型”的幻觉,做安全对齐或数据清洗的团队必须警惕——你的训练数据里那些“假新闻”可能正在反向教坏模型。建议所有做微调的人点开看看,避免踩坑。

arXiv cs.LG@Harry Mayne et al. (6)Source
5月13日
5月12日
5月11日