精选理由
这篇论文提出了CCPL,用概念原型约束提示学习,在DTD和EuroSAT上比CoOp有稳定提升,值得少样本CLIP调优的读者看看。
提出概念约束提示学习(CCPL)框架,使用共享上下文标记和冻结概念原型,通过文本空间余弦一致性对齐learnable类提示。默认设lambda=0.5、概念dropout p=0.3、弱概念引导融合alpha=0.1。在DTD上基类到新类调和平均数提升0.6,EuroSAT提升2.9,OxfordPets下降0.1。实验表明概念约束在概念原型与数据集语义自然对齐时效果最佳。
AI 翻译 · 中文
提出概念约束提示学习(CCPL)框架,使用共享上下文标记和冻结概念原型,通过文本空间余弦一致性对齐learnable类提示。默认设lambda=0.5、概念dropout p=0.3、弱概念引导融合alpha=0.1。在DTD上基类到新类调和平均数提升0.6,EuroSAT提升2.9,OxfordPets下降0.1。实验表明概念约束在概念原型与数据集语义自然对齐时效果最佳。
Few-shot prompt learning is an effective strategy for adapting CLIP to downstream tasks, but class-only prompt optimization can overfit base-class supervision and weaken transfer to unseen classes. We propose Concept-Con…