事件专题 · 单一信源

视觉对比自蒸馏VCSD:无需外部教师的新方法

VCSD提出一种新的自蒸馏方法,通过对比原始图像和内容擦除控制的token级log概率差异来生成蒸馏信号。在ViRL39K数据集上,基于Qwen3-VL的实验显示,2B模型七基准聚合从62.27%提升至67.04%,4B从71.30%提升至73.16%,8B从72.51%提升至76.26%。VCSD无需外部教师、特权答案或视觉证据信号,且不增加推理开销。

当前结论

这篇论文提出了VCSD,不需要外部老师就能让多模态模型自己教自己,在Qwen3-VL上几个规模都涨了4-5个点,而且不增加推理成本。

2 个信源47° AI 热度最后更新 2026/7/23 17:37:37

证据链

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。

查看资讯详情