#BERT

一篇数据库方向的论文：把 Transformer 剪成 FFN 切片塞进数据库里跑预测查询，用 BERT-base 和 Qwen-0.6B 实测延迟降到 1/4.42，精度不掉。做数据库+ML 的人可以看看。

想做 AI 出题自动质检的可以看看：论文实测了 LLM、BERT、传统 ML 在布鲁姆分类上的 OOD 表现，LLM 拿到 0.79 的 F1，还给了几个低成本补救手段。

想了解政治文本情感分类的难度？这篇论文用XGBoost和BERT实测，F1都不到0.3，看看数据有多难搞。

这篇论文教你怎么用CAV和稀疏自编码器查口语评分模型有没有偏袒某类考生，结果发现模型架构影响很大，别光看概念能不能被提取出来。

想提升句向量对微小改动的抵抗力？这个CDAE方法比SimCSE更扛扰动，代码开源，可以试试。

这篇论文搞了个叫Maskability Index的指标，帮你省掉试不同提示的功夫，直接判断填空提示还是前缀提示更管用，在ATOMIC2020上验证过了。

这篇论文用三种BERT模型对比了多类和多标签的漏洞分类效果，发现错误更多来自CWE层次结构而非模型选择，对安全领域做文本分类的人很有参考价值。