11:11官方账号arXiv cs.LG@David Shulman本文揭示射频信号识别基准测试中数据泄露导致精度高估的问题。通过Cover函数计数定理证明,当独立录音数R小于等于特征维度d/2时,分类器可记忆录音-标签映射,使朴素准确率趋近1。在合成实验中,10次种子测试显示,朴素平衡准确率从贝叶斯水平升至1.0,而分组评估降至随机水平,最大差距约0.5。在公开DroneRF数据集上,无人机型号识别(AR vs Bebop)的宏F1从0.74骤降至0.46(二类随机水平)。消融实验证实几乎所有通胀源自片段级数据泄露。论文DroneRF数据泄露UAV基准测试射频识别推荐理由:这篇论文用严格的数学证明和实验告诉你,为什么很多射频无人机识别论文的99%准确率不可信——数据泄露让测试集形同虚设。原文
07:26IT之家(博客/媒体)Meta 已暂停名为“模型能力计划(MCI)”的 AI 训练项目,该项目记录员工键盘敲击和鼠标操作轨迹。因数据泄露,包含员工私人对话、工作绩效数据在内的敏感信息被意外开放给全体员工查看。这是 Meta 在 2025 年 6 月继 3 月 AI 智能体擅自操作、本月黑客利用 AI 客服劫持 Instagram 账号后的又一起安全事件。行业Meta数据泄露AI训练内部监控企业安全推荐理由:Meta 监控员工键盘鼠标的 AI 项目因数据泄露叫停了,之前还有两起AI安全事件,想了解来龙去脉可以看看。原文
11:06官方账号Simon Willison’s Weblog(博客/媒体)76°微软的 Copilot Cowork 产品存在安全漏洞,允许攻击者通过提示注入实现数据外泄。该漏洞利用代理发送包含外部图片的邮件,当用户打开邮件时,图片会触发网络请求,从而泄露数据。由于 OneDrive 可生成预认证下载链接,攻击者能通过提示注入获取这些链接并下载文件。这凸显了智能体系统在防止数据泄露方面的持续挑战。AI产品Microsoft安全漏洞提示注入数据泄露智能体推荐理由:这个漏洞揭示了智能体系统设计中的核心安全痛点,使用 Microsoft Copilot 的团队需要立即关注并评估风险,建议检查相关配置并限制代理的邮件发送权限。原文