Event ·Multi-source

研究称约 6% 的 agent skill 文件绕过人类检查,现有扫描器漏检严重

一项研究分析了 GitHub 上 153 万个英文 SKILL.md 文件,发现约 8.8 万个(约 1/17)包含让 agent 跳过人类确认的指令,如 push without confirmation。其中 70.1% 的指令在所有场景下生效,而非仅限 CI 等特定环境。Cisco 和 NVIDIA 的两款开源扫描器即使调用 GPT-5.4,最多只检出 46%,精确率低于 0.4;同一 LLM 改问 oversight 问题后检出率升至 61%,精确率 0.71。研究建议将 skip 确认的指令限定在具体场景,并按 oversight 而非恶意软件来筛查 skill。

Current read

扫了 153 万个 skill 文件,发现一堆让 agent 不经确认就干活的指令,扫描器还查不出来,自己写 skill 的都该看看怎么防。

5 sources61° AI heatLast updated 2026/10/31 11:55:24

Evidence

5 sources
Primary sourcerohanpaul_ai
View source
Related source 2Gorden Sun
View source
Related source 3VTV Công nghệ
View source
Related source 4量子位
View source

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.

Paper finds 1 in 17 agent skills skip human checks · 事件专题 | AITOP