AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：生物医学模型×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月9日
11:44
11:44arXiv cs.LG@Suraj Biswas, Saurabh Gupta, Pritam Mukherjee
精选
研究发现，预训练的生物医学语言模型（如BioBERT、PubMedBERT）在跨领域概念对（如“皮质醇28 ug/dL”与“股市波动性”）上给出高达0.83的余弦相似度，而正确答案应接近零。这种虚假相关性在大型行为模型（LBM）中会导致错误的因果边，进而污染下游推理。研究者提出对比学习方案：第一轮对比训练将PubMedBERT的BIOSSES相关性从0.633提升至0.828，跨领域分离度从1.05倍提升至1.63倍；第二轮BODHI方法通过挖掘知识图谱中的硬负例，将分离度提升至2.30倍，判别差距提升至+0.392。在Intel Xeon 6737P上，OpenVINO将单查询延迟从1367毫秒降至10毫秒（133倍加速），每秒可处理555个句子。研究还发现FP16在该芯片上优于INT8，并解释了原因。
论文因果发现嵌入相似度对比学习生物医学模型OpenVINO
推荐理由：做因果推断或行为建模的团队会发现，嵌入相似度直接当因果用是危险的——这篇给出了可落地的对比学习方案，还附带了加速脚本，值得直接试。
原文