10:55
官方一手arXiv: Anthropic@Evan Caville, Siamak Layeghy, Billy Sung, Sara Dolnicar, Marius Portmann
推荐理由：这篇论文教你如何通过修改网页内容让大模型推荐时把你想要的东西排第一。SIREN用PAIR越狱循环，在Claude模型上成功率80%，挺有意思的。
SIREN
共 1 条相关 AI 资讯
7月27日
10:55
论文提出SIREN方法，通过PAIR越狱循环自动编辑检索到的网页内容，操纵大语言模型的推荐排名。在124次试验中，SIREN在Claude 3.5 Sonnet和Claude 3 Opus模型上实现62次目标实体升至排名1。使用23种内容投毒技术（如声明性排名声称和种子列表），并在新会话中复现成功率达0.805。这是首个在固定源上下文下研究生产级LLM推荐排名操纵的受控实验。