11:30
官方账号arXiv cs.AI@Victoria Graf, Hannaneh Hajishirzi, Noah A. Smith, David Kohlbrenner, Kyle Lo
推荐理由：这篇论文讲了一种真实的预训练数据投毒方式——通过论坛评论注入恶意内容，还给出了分析工具HalfLife，搞AI安全的值得看。
HalfLife
共 1 条相关 AI 资讯
7月17日
11:30
该论文提出通过公共讨论界面（如论坛评论）向大语言模型预训练数据注入恶意内容的攻击方法。作者引入HalfLife分析工具，用于评估网络爬虫数据中是否包含对抗性内容。实验表明，基于维基百科等传统数据源的投毒假设不适用于真实的大规模异构预训练语料库。研究强调第三方网页内容可能成为攻击语言模型预训练的潜在向量。