Chinese content上海警方通报“和平饭店51万元天价账单”系AI生成，15人被抓
有人拿AI把和平饭店的真实账单改成了自家酒水的51万营销素材，还雇人批量发视频。警方已经抓了15个人，4人被刑事强制措施。做内容运营的看完就知道这条红线在哪儿了。
IT之家Source
#content safety
11 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "content safety", newest first.
Nov 13
Oct 9
Chinese contentMeta 升级 AI 广告检测系统，追踪落地页链接拦截非法内容
Meta 把广告审核 AI 从只看素材改成了连落地页也一起查，主要用来拦儿童色情引流广告，做投放的可以留意规则变化。
Oct 8
Chinese contentMeta 推出 AI 工具，识别伪装成正常广告的儿童性剥削内容引流
Meta 出了套 AI 工具，专门抓那种看着正常、点进去却跳转儿童不良内容的广告，广告安全方向可以看看。
Oct 7
Chinese contentOpenAI 为 ChatGPT 新增自动年龄检测
OpenAI 给 ChatGPT 加了自动年龄检测，未成年用户会自动开启青少年模式，还能申请人工验证。
IT之家Source
Aug 7
Industry15:53
Chinese content小红书发布 AI 治理规则：AI 生成须主动披露，反对洗稿与合成声音小红书出了 AI 治理新规：AI 生成内容得主动标，不标平台会统一补标，洗稿、合成声音捏造新闻会封号。
IT之家Source
Aug 5
Chinese contentMistral发布3B开放权重内容安全模型Shieldstral
Mistral新出了3B的开放权重安全模型Shieldstral，能直接装设备上跑内容过滤，轻量又实用，看看它怎么做的。
Jul 2
Products12:03
Chinese contentCloudflare 细化网络爬虫屏蔽管理，将默认禁止 AI 代理与训练爬虫访问广告页面Cloudflare 出了个新招：给爬虫打标签，让你能精准拦住AI训练爬虫偷你广告页面的内容，同时允许搜索引擎正常收录。
IT之家Source
Jun 5
Chinese contentNVIDIA 发布 Nemotron 3.5 Content Safety：可定制多模态安全模型
企业部署 AI 最头疼的就是内容安全合规，NVIDIA 这个模型直接让企业按自己的政策微调安全过滤规则，做 AI 应用落地的团队值得关注。
Jun 3
Chinese contentGPT Image Gen V2 生成图片以假乱真，细节惊人
AI 生成图片的真实感已经跨越了恐怖谷，做内容创作、社交媒体运营或关注 AI 安全的人，建议点开看看这组截图——你很可能分不清真假。
May 17
Industry01:02
Chinese content上海开展4个月“清朗·整治AI应用乱象”专项行动AI应用乱象频发，这次上海网信办动真格了——4个月专项治理覆盖备案、安全、内容全链条，做AI产品、运营平台或内容审核的团队，建议对照自查，避免踩红线。
IT之家Source