13:41
arXiv cs.AI@Asif Shahriar, Hongyu Cai, Hadjer Benkraouda, Gang Wang, Z. Berkay Celik
推荐理由：想知道LLM有多容易受骗吗？这篇论文用实验告诉你，LLM检测漏洞时跟人一样有认知偏差，改个上下文就能让它放跑97%的漏洞。
全部 AI 动态
AI 相关资讯全量信息流
6月30日
13:41
研究者首次系统探索认知启发对LLM代码漏洞检测的影响。他们构建控制框架，通过改变上下文触发光环、框架、锚定三种启发。在8个LLM和3种编程语言上的评估显示，所有模型均受影响：框架效应平均易感性最高（33.2%），锚定效应23.5%，光环效应18.4%。代码级分析表明，需语义推理的漏洞比模式匹配的更易受影响。此外，黑盒攻击可抑制高达97%之前检测到的漏洞。
6月16日
20:46
AITOP6月16日 20:46
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07