Chinese contentPangram 发布 AI 图像检测模型 Pangram Image 1.0，准确率 99.96%
Pangram Labs 刚发的图像检测模型，用热力图标出哪块是 AI 画的，低分辨率下也有 96.4% 准确率，做内容审核的可以看看。
IT之家Source
#deepfakes
27 stories · 0 in 7 days · 9 in 30 days
Stories, products and papers tagged "deepfakes", newest first.
Nov 6
Chinese content网信办整治 AI 假冒公众人物：清理信息 4.7 万余条，处置账号 3961 个
用 AI 合成名人脸和声音带货、编谣言的账号被集中清掉了，3961 个，抖音微信小红书都涉及，做内容营销的最好看看别踩线。
IT之家Source
Nov 3
Chinese content国家发改委：强化 AI 就业替代风险监测预警
AI 可能抢饭碗这事，官方给出回应了：要建监测预警机制。还有 5.6 万家智能工厂这些实打实的落地数据，值得看看政策风向。
IT之家Source
Oct 25
Chinese content澳大利亚国脚沃尔帕托授权 AI 数字分身，运动员肖像权商业化开启
澳大利亚国脚把自己的数字分身授权给加州公司 Callandor 变现，同月 AFL 刚叫停 Sportsbet 未经许可用球员 AI 肖像，两条路一对比很说明问题。
IT之家Source
Oct 23
Oct 20
Chinese contentOpenAI 与 Meta 警告：深度伪造正威胁司法证据可靠性
OpenAI 和 Meta 的高管一起对法官们说：AI 生成的假图假视频已经没法靠技术辨别了，连司法系统都头疼，这事跟你以后看到的'证据'有关。
IT之家Source
Oct 19
Chinese content演员吴越被 AI 生成虚假带货视频，微信视频号永久封禁涉事账号
有人用 AI 合成吴越的声音和画面带货，视频号直接把账号永久封了，正好撞上网信办 2 个月整治行动的风口上。
IT之家Source
Oct 17
Chinese contentApple 更新 App Store 规则，明确封禁 AI"nudify"换裸应用
苹果把 App Store 规则改得更严了，专门针对那些用 AI 一键生成他人裸照的应用，起因就是年初 Grok 上闹出的伪造事件。
Oct 14
Oct 6
Chinese content索尼音乐要求下架 26 万首 AI 伪造歌曲，数量较 3 月近乎翻倍
索尼音乐一次下架了 26 万首 AI 伪造 Adele、迈克尔·杰克逊这些歌手的歌，比 3 月翻了一倍，看看流媒体平台被伪造内容灌成什么样了。
IT之家Source
Chinese content意大利总理梅洛尼向欧盟知识产权局申请将自己的声音注册为商标
梅洛尼把自己的声音拿去注册商标了，还附了 4 秒录音，就为防 AI 深度伪造，这操作挺少见，看看能不能走通。
IT之家Source
Sep 22
Sep 15
Chinese contentResembleAI 发布 DETECT-World 深度伪造检测模型
ResembleAI 推出了个新模型叫 DETECT-World，专门用来检测深度伪造，比传统方法更厉害。
Aug 26
Aug 6
Papers09:33
Chinese content卫星图像篡改与深度伪造定位基准数据集遥感领域缺精细的篡改定位数据集，这个原型集合了拼接和扩散修复两类篡改，还带掩码和元数据，做取证研究可以直接拿来测。
Aug 4
Products10:40
Chinese content微软 Teams 本月将新增举报可疑会议功能，遏制 AI 欺诈微软给 Teams 加了举报按钮，专门对付 AI 换脸和冒充同事的诈骗，开会时觉得不对劲就能一键上报，安全团队能直接介入。
IT之家Source
Chinese content欧盟AI透明度新规生效：企业须标注AI生成内容，违者最高罚1500万欧元
欧盟《AI法案》开罚了：8月2日起AI内容不标注就违法，最高罚1500万欧元，做AI产品的公司要赶紧看。
IT之家Source
Aug 3
Industry23:14
Chinese contentInterpol报告：AI已成非洲网络犯罪核心驱动力Interpol说非洲55%网络犯罪都有AI参与，损失翻倍到4.84亿美元，深度伪造敲诈60万起，值得看看。
Jul 31
Chinese content欧盟《人工智能法》透明度规则8月2日生效，聊天机器人需自报身份
欧盟AI透明度新规8月2日生效，聊天机器人和深度伪造都得亮明身份，违者最高罚750万欧元。
IT之家Source
Jul 29
Industry10:53
Chinese content英国医学会：误导性的“AI 医生”会对公共安全构成巨大威胁TikTok上AI医生视频泛滥，4成健康热门视频是AI做的，专家说会害死人，你看看你信了没。
IT之家Source
Jul 26
Chinese content欧盟AI透明度准则8月2日生效：聊天机器人需自报身份，深度伪造须机读标签
欧盟新规马上就要来了，聊天机器人得说自己是AI，深度伪造要打标记，违规罚1500万欧元。做AI产品的赶紧合规吧。
IT之家Source
Jun 27
Jun 10
Papers09:26
Chinese contentDeepfake语音数据集伦理与技术局限审计做语音安全或深度伪造检测的研究者会发现，现有数据集的公平性和泛化性评估可能建立在脆弱基础上——这篇审计直接点出了数据层面的系统性漏洞，值得在选数据集或写论文时参考。
Jun 3
Chinese contentGPT Image Gen V2 生成图片以假乱真，细节惊人
AI 生成图片的真实感已经跨越了恐怖谷，做内容创作、社交媒体运营或关注 AI 安全的人，建议点开看看这组截图——你很可能分不清真假。
May 20
Chinese contentOpenAI 推进内容溯源：Content Credentials 与 SynthID 提升 AI 媒体可信度
内容溯源是应对 AI 虚假信息的关键，做内容审核、媒体平台或 AI 安全研究的团队值得关注，可以直接了解如何用技术手段提升信任度。
Chinese content谷歌 Gemini 集成 C2PA 内容凭证，可判断图片是否 AI 编辑
AI 图片真假难辨的时代，谷歌把验证能力直接集成到搜索和浏览器里，关心信息可信度的用户和内容创作者可以直接用起来。
IT之家Source