AITOP

5月19日

10:24

arXiv: DeepSeek@Aleksandr Churilov

精选72

一项新研究复现了2024年关于LLM生成代码时虚构不存在的包名的实验，测试了2025年10月至2026年3月发布的五个前沿模型：Claude Sonnet 4.6、Claude Haiku 4.5、GPT-5.4-mini、Gemini 2.5 Pro和DeepSeek V3.2。结果显示整体幻觉率在4.62%到6.10%之间，较之前研究（5.2%-21.7%）大幅收窄，但威胁并未消失。更关键的是，研究者发现127个包名被所有五个模型一致虚构，构成模型无关的供应链攻击面，这是单模型研究无法揭示的。此外，研究还观察到Python幻觉率高于JavaScript（与2024年结论相反）、Anthropic家族内Haiku低于Sonnet的反转现象，以及DeepSeek V3.2与GPT-5.4-mini之间Jaccard相似度峰值（0.343），暗示训练数据可能存在共享来源。

论文包幻觉供应链攻击代码生成模型安全研究 PyPI/npm

推荐理由：包幻觉率虽降但跨模型一致幻觉风险被首次量化，做AI安全或供应链防护的团队值得关注这127个危险包名。

5月17日

23:40

rohanpaul_ai@rohanpaul_ai

精选76

阿里巴巴发布论文VulnSage，展示AI如何从漏洞发现转向实际利用验证。该框架通过多智能体协作，将漏洞利用生成转化为工作流：一个智能体提取数据流，另一个转化为自然语言约束，第三个生成利用代码，验证智能体在沙箱中运行并反馈。在SecBench.js上，VulnSage比现有工具多34.64%的成功利用，并在真实软件包中发现146个零日漏洞。核心创新在于让模型像安全研究员一样阅读、行动、失败和学习，而非依赖单一模型的天才能力。

论文漏洞利用多智能体安全研究阿里自动化

推荐理由：安全团队终于有了能实际验证漏洞利用的AI工具——VulnSage把代码理解转化为真实攻击路径，做渗透测试或漏洞研究的开发者可以直接参考论文方法。

5月14日

13:27

arXiv cs.AI@Liz Cho, Dongwook Yoon

精选65

该研究对比了2016年和2024年美国总统大选期间X平台上的行为与语言协调模式，发现2024年的数据呈现出与2016年截然不同的特征：原创内容从59%飙升至93%，转发几乎消失；词汇重叠度从平均Jaccard分数0.99骤降至0.27，帖子围绕同一主题但用词显著不同；时间协调从普遍的跨语义同步转向叙事集中的共现。这些模式指向一种以主动内容生成和叙事特定目标为特征的运作逻辑，与生成式AI的参与一致。研究为未来调查生成式AI在认知战中的作用提供了实证基线，并为安全从业者开发适应后生成式AI威胁环境的检测框架提供了实用参考。

论文生成式AI 认知战社交媒体分析安全研究大选

推荐理由：这项研究揭示了生成式AI如何从根本上改变认知战的运作方式——从简单的放大转向复杂的合成，安全从业者和政策制定者需要理解这种新威胁模式，建议点开看看具体的数据对比。