14:09IT之家(博客/媒体)韩国政府于6月27日成立跨部门协商机构,应对深度伪造性剥削犯罪、AI伪造声音诈骗等涉AI犯罪行为。该机构由科学技术信息通信部、外交部、法务部、警察厅等组成。韩国广播通信委员会指出,AI犯罪跨越网络、电信、金融等多个领域,单一部门难以应对,需要加强跨部门协调合作。行业韩国政府深度伪造金融诈骗AI安全监管推荐理由:韩国政府动手了,专门成立跨部门机构打击AI犯罪,包括深度伪造性剥削、AI诈骗等,行动力很强。原文
09:26arXiv cs.LG@Vojtěch Staněk, Eva Trnovská, Kamil Malinka, Anton Firc该论文对39个深度伪造语音数据集进行了系统性审计,发现大多数数据集缺乏人口统计元数据(如性别、语言标签),导致公平性评估几乎不可行。此外,不同数据集之间存在大量底层真实语音源语料库的重叠,这会削弱跨数据集评估的有效性,并导致泛化能力被高估。研究揭示了当前深度伪造语音检测领域在数据多样性和评估严谨性上的关键缺陷。论文深度伪造语音检测数据集审计公平性泛化性推荐理由:做语音安全或深度伪造检测的研究者会发现,现有数据集的公平性和泛化性评估可能建立在脆弱基础上——这篇审计直接点出了数据层面的系统性漏洞,值得在选数据集或写论文时参考。原文
14:13宝玉@doteyOpenAI 的 GPT Image Gen V2 在生成逼真图片方面取得显著进展,用户 Emily 分享的示例展示了模型能根据详细提示生成高度真实的手机自拍截图。该图片包含低分辨率、运动模糊、美颜滤镜、压缩伪影等真实手机照片的典型特征,甚至模拟了中文短视频应用的界面元素。这一能力让 AI 生成的图片在视觉上几乎无法与真实照片区分,引发对深度伪造和内容真实性的讨论。AI产品GPT Image Gen V2图像生成深度伪造内容安全OpenAI10 个信源在谈推荐理由:AI 生成图片的真实感已经跨越了恐怖谷,做内容创作、社交媒体运营或关注 AI 安全的人,建议点开看看这组截图——你很可能分不清真假。原文
01:58OpenAI Blog(博客/媒体)OpenAI 宣布通过 Content Credentials、SynthID 和验证工具推进 AI 内容溯源,帮助用户识别和信任 AI 生成的媒体。Content Credentials 为 AI 生成内容添加数字水印和元数据,SynthID 则嵌入不可见标记。这些技术旨在应对深度伪造和虚假信息,提升 AI 生态的透明度和安全性。用户可通过验证工具检查内容来源,确保真实性。此举是 OpenAI 在 AI 伦理与安全领域的重要一步。AI产品内容溯源AI 安全数字水印OpenAI深度伪造4 个信源在谈推荐理由:内容溯源是应对 AI 虚假信息的关键,做内容审核、媒体平台或 AI 安全研究的团队值得关注,可以直接了解如何用技术手段提升信任度。原文
01:45IT之家(博客/媒体)在 2026 年谷歌 I/O 大会上,谷歌宣布 Gemini 集成 C2PA 内容凭证,以增强对深度伪造的防御能力。此前,谷歌的 SynthID 已为 10 亿张图片和视频及 6 万年的音频添加水印,Gemini 平台上“数百万人”正在使用 SynthID。现在,用户可在谷歌搜索和 Chrome 浏览器中圈选或右键点击图片,询问是否经过 AI 编辑。谷歌 CEO 桑达尔现场演示了识别一张他与马斯克、奥特曼、黄仁勋吃汉堡的 AI 图像,并指出“这显然是假的”。AI产品谷歌GeminiC2PA内容凭证深度伪造2 个信源在谈推荐理由:AI 图片真假难辨的时代,谷歌把验证能力直接集成到搜索和浏览器里,关心信息可信度的用户和内容创作者可以直接用起来。原文