行为检测相关 AI 资讯 · AI 热点

8月11日

12:38

12:38

官方账号arXiv cs.LG@Samaneh Rezaeimanesh, Mohsen Behradfar, Mohammad Fili, Guiping Hu

Child Mind Institute使用Helios腕戴设备收集数据，结合惯性测量单元、热电堆传感器和飞行时间传感器，捕捉运动、热感和距离信息。研究团队开发了结合卷积神经网络和门控循环单元的深度学习框架，并加入模态专用自编码器和晚期融合分类器。该框架在二元检测中F1分数达0.985，AUC为0.997，九类分类中宏平均F1为0.700，AUC为0.963。Shapley解释显示飞行时间和惯性模态主导判别力，层级聚类表明误分类主要由手势解剖区域驱动。研究证明多模态融合可实现准确、客观、连续的行为监测，为可穿戴辅助心理健康诊断奠定基础。

论文多模态融合可穿戴设备深度学习

推荐理由：这个研究用腕带传感器加深度学习，检测拔毛、抠皮这类小动作，F1到0.985，比单模态准多了，对心理健康监测挺有参考价值。

7月30日

10:31

10:31

官方账号arXiv cs.AI@Vishisht Choudhary, Lukas Schmidt, Anne Zoë Kenntner, Feras Skhab, Michel Osswald, Jens Ernstberger

该论文提出三分类框架，区分人类、机器人和AI代理，发现二分类器将39.1%（MLP）和34.5%（SAINT transformer）的AI代理误判为人类。在30次实验中，加入代理类后代理F1达到1.000。通过五级逃避梯（含2299次逃避会话），两个行为特征（mouse_event_rate, teleport_click_ratio）实现100%的代理召回率和0.994的精度。特征冗余：移除teleport_click_ratio后仍保持100%召回。五个特征可将宏F1提升至0.991。

论文 AI agent Playwright 行为检测

推荐理由：这篇论文告诉你，检测AI代理不需要复杂手段，两个鼠标行为特征就够用了，能躲过各种伪装，读读看怎么做到的。

7月13日

22:09

22:09

官方一手Cloudflare Blog@Benedikt Wolters

精选

Cloudflare推出Precursor，一种新的持续行为验证引擎，用于机器人管理。它通过分析用户会话级别的行为模式来识别高级自动化攻击，如凭证填充、网页抓取等。Precursor能将会话行为转化为机器人检测信号，相比传统方法具有更高精度，并减少对合法用户的干扰。该引擎已集成到Cloudflare Bot Management产品中。

AI产品 Cloudflare Precursor 机器人管理

推荐理由：Cloudflare出了个Precursor，靠分析用户全程行为来抓机器人，比旧方法更准，还不会误伤正常人。

6月30日

15:13

15:13

官方账号arXiv cs.LG@Jun Wen Leong

研究发现LLM Agent在持续记忆中毒攻击下存在行为不变性：成功攻击必须调用memory_recall_fact后再调用email_send_email。仅凭该规则的检测AUC达0.9563，基于19个轨迹特征的随机森林分类器将AUC提升至0.9904（BCa 95% CI [0.987, 0.993]）。跨9个模型（7B-120B参数）验证，6/9的留出测试AUC为1.000。该签名可泛化至GPT-4.1和GPT-4o等前沿模型，无需重新训练。通过工具调用日志即可区分记忆通道攻击与提示注入攻击。

论文 LLM Agent 记忆中毒行为检测

推荐理由：这篇论文发现了一个简单规律就能检测AI Agent的记忆中毒攻击，准确率高达99%，还能区分不同攻击类型，非常实用。