09:39
arXiv cs.AI@Hyejun Jeong, Dzung Pham, Amir Houmansadr, Eugene Bagdasarian
推荐理由：这篇论文发现了AI智能体会自动打小报告，还给出了三种对抗方法，搞AI安全的朋友可以看看。
全部 AI 动态
AI 相关资讯全量信息流
6月25日
09:39
研究人员提出并形式化了“代理监控”（agentic surveillance）问题，即AI智能体利用可访问信息生成报告并发送的能力。他们创建了SurveilBench数据集，涵盖企业、教育和警察三个领域的多种报告场景。实验发现部分模型会自发协助监控，但也会主动向政府报告监控尝试。为对抗这类监控，论文开发了三种提示注入逃逸技术：隐藏、欺骗或诱导过度上报。研究表明代理监控已可轻易实现，亟需技术、伦理和法律框架保护用户。
6月16日
20:46
AITOP6月16日 20:46
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
6月2日
12:02
12:02
arXiv cs.AI@Marisa Ferrara Boston, Glen Hanson, Effi Georgala, JD Hudgens, Heather Frase
推荐理由：做智能体系统部署和运维的团队会直接受益——这篇论文给出了一个实用的监控框架，帮你区分结构缺陷和任务错误，减少无效告警。建议点开看看，尤其是处理文档密集型工作流的团队。