Latest

Every published item, in order · 317 items
Jun 3
Jun 2
PapersSelected11:58
Chinese contentAdaCodec:为视频MLLM设计的预测式视觉编码,1/7预算超越全帧基线

做视频理解或多模态模型优化的团队,终于有了一个能大幅降低计算开销而不牺牲性能的方案——AdaCodec用预测式编码直击视频冗余痛点,建议做视频MLLM的开发者直接看论文复现。

arXiv cs.AI@Haowen Hou et al. (11)Source
PapersSelected72°11:10
Chinese contentQwen3 2-bit 推理失败模式与恢复:FP16 规划+循环救援提分至 87.2%

做推理模型量化和部署的团队终于有了针对 2-bit 失败模式的系统解法——不是简单降精度,而是用 FP16 规划和循环救援来修复生成过程,Qwen3 用户可以直接复现并提升准确率。

arXiv cs.AI@Ekaterina Alimaskina et al. (6)Source
May 29
May 28
May 27
May 26
May 25
May 22
May 21
May 20
May 19
PapersSelected11:10
Chinese content对称性兼容优化器设计原则:嵌入层、LM头、SwiGLU MLP与MoE路由器

这篇论文解决了深度学习优化器忽视架构对称性的根本问题,做大规模语言模型预训练的团队值得关注——它可能成为替代AdamW的新范式,实验显示能稳定提升损失和训练稳定性。

arXiv cs.LG@Tim Tsz-Kit Lau, Weijie SuSource
May 18
PapersSelected10:31
Chinese content层等价性测试方法不同,结果天差地别:Qwen3-8B和Llama-3.1-8B案例

做模型压缩或剪枝的团队,如果只用一种等价性测试就决定删层,可能会踩坑——这篇论文用Qwen3-8B和Llama-3.1-8B的对比告诉你,测试方法选错,安全剪枝的层数能差好几倍。建议在剪枝前先跑一下两种swap-KL诊断。

arXiv cs.LG@Gabriel GarciaSource
May 15
May 14
PapersSelected13:27
Chinese content人格模型崩溃:微调导致大模型角色分化失控

做AI安全和对齐的研究者、模型微调工程师值得关注——这项研究用两个量化指标揭示了有害微调如何让模型角色扮演能力崩溃,比单纯看输出内容更早发现问题。建议点开看看指标计算方法。

arXiv: DeepSeek@Davi Bastos Costa, Renato VicenteSource
PapersSelected72°13:26
Chinese contentNegation Neglect:微调让模型把假新闻当真,安全风险凸显

这个发现戳穿了微调中“加否定声明就能纠正模型”的幻觉,做安全对齐或数据清洗的团队必须警惕——你的训练数据里那些“假新闻”可能正在反向教坏模型。建议所有做微调的人点开看看,避免踩坑。

arXiv cs.LG@Harry Mayne et al. (6)Source
May 13
May 12
May 11