09:33官方账号arXiv cs.AI@Jacob Arndt, Debvrat Varshney, Philipe Dias, Nivedita Nukavarapu该论文提出一个用于卫星图像篡改检测与定位的原型基准数据集,包含60张图像,其中30张经复制粘贴拼接或扩散模型修复等方式篡改,另30张为真实图像。每张图像都配有像素级真值掩码和采集元数据,支持定位性能评估。数据集已发布在HuggingFace平台,可免费下载。论文卫星图像深度伪造数据集推荐理由:遥感领域缺精细的篡改定位数据集,这个原型集合了拼接和扩散修复两类篡改,还带掩码和元数据,做取证研究可以直接拿来测。原文稍后读已读值得跟进有用关注 卫星图像
10:40IT之家(博客/媒体)微软计划于 2026 年 8 月为 Teams 推出“举报”功能,参会者可在会议期间或会议聊天中提交举报,提醒组织、IT 管理员或安全团队介入调查。该功能可用于举报钓鱼、冒充、诈骗、社会工程活动及其他可疑行为,并会收集会议相关基础数据及有限上下文信息。微软 2025 年研究报告称,AI 辅助的欺诈攻击已肆虐全球。Teams 还将推出外部会议机器人检测功能,防范机器人擅自加入会议。AI产品Teams微软AI安全推荐理由:微软给 Teams 加了举报按钮,专门对付 AI 换脸和冒充同事的诈骗,开会时觉得不对劲就能一键上报,安全团队能直接介入。原文稍后读已读值得跟进有用关注 Teams
10:05IT之家(博客/媒体)72°欧盟《人工智能法案》的首批透明度要求已于8月2日生效,覆盖聊天机器人提示和AI生成内容标注。提供商需在用户与AI互动时明确提醒,并为AI生成的音频、图像、视频和文本添加机器可读标记。部署方需对拟真式深度伪造内容进行标注,平台可采用欧盟提供的统一标签。违规企业最高面临1500万欧元罚款或全球年营业额3%的处罚,8月2日前已上线系统须在12月2日前完成合规。行业欧盟AI法案透明度推荐理由:欧盟《AI法案》开罚了:8月2日起AI内容不标注就违法,最高罚1500万欧元,做AI产品的公司要赶紧看。原文稍后读已读值得跟进有用关注 欧盟
23:14官方账号Decoder@Matthias BastianInterpol新报告显示,AI已参与非洲55%的已报告网络犯罪。非洲网络犯罪造成的财务损失从1.92亿美元增至4.84亿美元,翻了一倍多。报告还记录了约60万起涉及深度伪造的数字敲诈案件。AI正成为非洲网络犯罪的核心运营驱动力。行业Interpol网络犯罪深度伪造推荐理由:Interpol说非洲55%网络犯罪都有AI参与,损失翻倍到4.84亿美元,深度伪造敲诈60万起,值得看看。原文稍后读已读值得跟进有用关注 Interpol
19:44IT之家(博客/媒体)83°欧盟委员会7月31日宣布,《人工智能法》新增的透明度要求自8月2日起由人工智能办公室与成员国主管部门共同执行。聊天机器人等交互式AI须明确告知用户其在与AI对话,深度伪造图片、视频和音频必须添加机器可识别标记。首批180多家机构签署了《人工智能生成内容透明度行为准则》,包括OpenAI、谷歌、微软、Anthropic等,Meta未加入。违反透明度义务最高可处750万欧元或全球年营业额1%的罚款。行业欧盟AI法AI监管深度伪造10 个信源在谈事件专题推荐理由:欧盟AI透明度新规8月2日生效,聊天机器人和深度伪造都得亮明身份,违者最高罚750万欧元。原文稍后读已读值得跟进有用关注 欧盟AI法
10:53IT之家(博客/媒体)英国《卫报》报道,数字营销机构Hallam研究显示,TikTok健康类热门视频中AI生成内容占40%。搜索“健康建议”时,84%的视频被认定为AI生成或辅助制作,热门AI医生视频平均获得250万次观看。这些AI医生散布已被英国癌症研究中心否定的致癌说法,如塑料容器微波加热、使用除臭剂致癌等。英国医学会副主席艾玛·伦斯威克等专家警告,误导性健康内容可能造成严重健康损害甚至死亡。TikTok下架部分视频,但辩称研究由商业机构完成且不准确。行业TikTok英国医学会AI医生推荐理由:TikTok上AI医生视频泛滥,4成健康热门视频是AI做的,专家说会害死人,你看看你信了没。原文稍后读已读值得跟进有用关注 TikTok
16:19IT之家(博客/媒体)78°欧盟《人工智能法案》第50条AI透明度准则将于8月2日正式生效,要求聊天机器人必须在交互时明确告知用户其为AI而非真人。深度伪造内容(Deepfake)须添加机器可读的水印或元数据,以声明AI生成属性。拼写检查和语法纠正工具可豁免标记。违规企业最高面临1500万欧元罚款或全球年营业额3%的处罚。8月2日前已存在的生成式AI系统获得4个月整改期,截止至2026年12月2日。行业欧盟AI Act深度伪造推荐理由:欧盟新规马上就要来了,聊天机器人得说自己是AI,深度伪造要打标记,违规罚1500万欧元。做AI产品的赶紧合规吧。原文稍后读已读值得跟进有用关注 欧盟
14:09IT之家(博客/媒体)韩国政府于6月27日成立跨部门协商机构,应对深度伪造性剥削犯罪、AI伪造声音诈骗等涉AI犯罪行为。该机构由科学技术信息通信部、外交部、法务部、警察厅等组成。韩国广播通信委员会指出,AI犯罪跨越网络、电信、金融等多个领域,单一部门难以应对,需要加强跨部门协调合作。行业韩国政府深度伪造金融诈骗推荐理由:韩国政府动手了,专门成立跨部门机构打击AI犯罪,包括深度伪造性剥削、AI诈骗等,行动力很强。原文稍后读已读值得跟进有用关注 韩国政府
09:26官方账号arXiv cs.LG@Vojtěch Staněk, Eva Trnovská, Kamil Malinka, Anton Firc该论文对39个深度伪造语音数据集进行了系统性审计,发现大多数数据集缺乏人口统计元数据(如性别、语言标签),导致公平性评估几乎不可行。此外,不同数据集之间存在大量底层真实语音源语料库的重叠,这会削弱跨数据集评估的有效性,并导致泛化能力被高估。研究揭示了当前深度伪造语音检测领域在数据多样性和评估严谨性上的关键缺陷。论文深度伪造语音检测数据集审计推荐理由:做语音安全或深度伪造检测的研究者会发现,现有数据集的公平性和泛化性评估可能建立在脆弱基础上——这篇审计直接点出了数据层面的系统性漏洞,值得在选数据集或写论文时参考。原文稍后读已读值得跟进有用关注 深度伪造
14:13宝玉@doteyOpenAI 的 GPT Image Gen V2 在生成逼真图片方面取得显著进展,用户 Emily 分享的示例展示了模型能根据详细提示生成高度真实的手机自拍截图。该图片包含低分辨率、运动模糊、美颜滤镜、压缩伪影等真实手机照片的典型特征,甚至模拟了中文短视频应用的界面元素。这一能力让 AI 生成的图片在视觉上几乎无法与真实照片区分,引发对深度伪造和内容真实性的讨论。AI产品GPT Image Gen V2图像生成深度伪造10 个信源在谈事件专题推荐理由:AI 生成图片的真实感已经跨越了恐怖谷,做内容创作、社交媒体运营或关注 AI 安全的人,建议点开看看这组截图——你很可能分不清真假。原文稍后读已读值得跟进有用关注 GPT Image Gen V2
01:58官方一手OpenAI Blog(博客/媒体)OpenAI 宣布通过 Content Credentials、SynthID 和验证工具推进 AI 内容溯源,帮助用户识别和信任 AI 生成的媒体。Content Credentials 为 AI 生成内容添加数字水印和元数据,SynthID 则嵌入不可见标记。这些技术旨在应对深度伪造和虚假信息,提升 AI 生态的透明度和安全性。用户可通过验证工具检查内容来源,确保真实性。此举是 OpenAI 在 AI 伦理与安全领域的重要一步。AI产品内容溯源AI 安全数字水印4 个信源在谈事件专题推荐理由:内容溯源是应对 AI 虚假信息的关键,做内容审核、媒体平台或 AI 安全研究的团队值得关注,可以直接了解如何用技术手段提升信任度。原文稍后读已读值得跟进有用关注 内容溯源
01:45IT之家(博客/媒体)在 2026 年谷歌 I/O 大会上,谷歌宣布 Gemini 集成 C2PA 内容凭证,以增强对深度伪造的防御能力。此前,谷歌的 SynthID 已为 10 亿张图片和视频及 6 万年的音频添加水印,Gemini 平台上“数百万人”正在使用 SynthID。现在,用户可在谷歌搜索和 Chrome 浏览器中圈选或右键点击图片,询问是否经过 AI 编辑。谷歌 CEO 桑达尔现场演示了识别一张他与马斯克、奥特曼、黄仁勋吃汉堡的 AI 图像,并指出“这显然是假的”。AI产品谷歌GeminiC2PA2 个信源在谈事件专题推荐理由:AI 图片真假难辨的时代,谷歌把验证能力直接集成到搜索和浏览器里,关心信息可信度的用户和内容创作者可以直接用起来。原文稍后读已读值得跟进有用关注 谷歌