#HarmBench

共 3 条 · 7 天 1 条 · 30 天 1 条

AI安全 1 HELM Safety 1 LLM安全 1 TACS 1 后缀优化 1 基准测试 1 大模型 1 安全对齐 1

信息流里打上「HarmBench」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月9日

论文 Agent 与开发者10:21

AI安全基准测试的心理学审计

这篇论文揭示了AI安全基准测试的测量问题，特别是HarmBench数据集无法准确衡量单一安全属性。

#HELM Safety #HarmBench #AI安全 #基准测试

arXiv cs.AI@Christopher M. Stewart 等 8 人原文

9月1日

论文精选73°09:22

TACS：大模型越狱后缀优化轨迹感知候选选择

这篇论文提出了TACS框架，解决了大模型越狱后缀优化中的短视选择问题，在HarmBench上表现优异。

#TACS #越狱 #大模型 #HarmBench

arXiv cs.LG@Shiliang Xiao原文

8月24日

CLEAR：持续潜在适配器路由以实现LLM安全对齐

CLEAR框架提出了一种新的LLM安全对齐方法，在保持模型效用的情况下显著提高了鲁棒性，对于关注LLM安全性和效用平衡的研究者来说是个重要进展。

#安全对齐 #LLM安全 #潜在适配器 #HarmBench

arXiv cs.AI@Chengxiao Wang 等 4 人2 个信源在谈原文