Audit(审计)在 AI 领域当前主要指借助大模型或智能体对代码、系统、测试和模型行为进行自动化检查与评估的工作流程。随着 Claude Code 等 coding agent 的普及,安全审计、测试审计和提示词审计正在从人工密集型任务,转向由多个 AI 助手协作完成的半自动化流程,同时也暴露出离线审计能力边界等新的理论争议。
AI 驱动代码安全审计的近期进展
当前焦点与观察点
理论层面的质疑值得注意:一篇 arXiv 论文提出“Post-Audit Mirage”概念,指出离线 audit 无法完全覆盖智能体部署后的安全性,存在理论上的识别边界(论文链接)。这意味着即便部署前审计全部通过,线上行为仍需持续监控,不能把 audit 视为一劳永逸的保障。
另一条相关线索是审计对象本身的可靠性:有研究指出主流 LLM 诚实度基准存在表面特征泄露问题(arXiv 链接),提示模型评估类 audit 的结论可能被基准缺陷扭曲。
工程侧的配套能力也在快速补充,如 Claude Code 在 v2.1.283 版本中新增模型管控设置并修复多项 MCP 问题(Release 说明),Fable 5.1 则推荐用户运行 prompt-audit 命令来审查提示词质量。总体来看,audit 正沿着“代码安全—系统运维—测试与提示词—模型评估”多个方向同时扩展,其核心争议集中在自动化审计的可信度边界与部署后持续验证机制上。