#ModernBERT

共 6 条 · 7 天 0 条 · 30 天 1 条

信息流里打上「ModernBERT」标签的资讯、产品与论文，按刊登时间排，新的在上。

9月24日

研究者用对比学习训练了一个 ModernBERT Bi-Encoder，判断两段文字是不是同一人写的，在 PAN21 上准确率 98.4%，还列出了调参要点。

arXiv cs.LG@Peter Kirby原文

8月18日

研究者发布了GEO检测工具，能在真实Google搜索中识别GEO优化页面，F1从0.862提到0.944，比现有方法更可靠。

arXiv cs.LG@Junjie Chu 等 6 人原文

8月5日

CheMatE让模型同时懂SMILES和化学文献，两阶段训练后在分子性质预测和科学理解任务上都不输基线。

arXiv cs.LG@David Ming Segura 等 5 人原文

6月25日

ArXiv上新论文，用ModernBERT和Ettin编码器做安全裁判，比LlamaGuard快还便宜，准确率没差太多。

arXiv cs.AI@Han Jeon 等 4 人原文

5月21日

论文精选09:46

做文献综述或学术研究的团队终于有了一个靠谱的问答工具——直接提取原文片段，彻底告别幻觉。用 ACL 论文的 NLP 研究者可以直接试试这个开源方案。

arXiv cs.AI@Gábor Recski 等 5 人原文

5月13日

论文精选19:12

做 NLP 领域适配的团队终于有了比纯 MLM 更优的预训练策略——CLM 绕路法简单有效，在生物医学任务上直接涨点，建议做领域编码器的开发者试试这个两阶段方案。

arXiv cs.AI@Rian Touchent, Eric de la Clergerie原文