11:38
官方账号arXiv cs.AI@Sina Heydari, Amirreza Abbasi, Mohsen Hooshmand, Majid Ramezani
推荐理由：想提升句向量对微小改动的抵抗力？这个CDAE方法比SimCSE更扛扰动，代码开源，可以试试。
SimCSE
共 1 条相关 AI 资讯
7月31日
11:38
该论文提出轻量级对比去噪自编码器CDAE，通过联合优化对比学习和重构目标来精炼BERT嵌入，使其对同义替换、掩码和词丢弃等语义保持扰动不敏感。实验在多种扰动强度下对比了原始BERT和SimCSE，CDAE在嵌入相似度上始终更高。改进幅度随扰动增强而增大，表明其能在提升表示稳定性的同时保留语义信息。代码已开源。