04:32Hugging Face: Blog(博客/媒体)NVIDIA 推出 Nemotron 3.5 Content Safety,这是一款面向全球企业 AI 的可定制多模态安全模型。它支持文本和图像输入,能够检测有害内容(如仇恨言论、暴力、色情等),并允许企业根据自身政策进行微调。该模型基于 Llama 3.1 架构,提供 8B 和 70B 两种规模,在多个安全基准上表现优异。Nemotron 3.5 旨在帮助企业安全部署生成式 AI,满足不同地区的合规要求。AI模型NVIDIANemotron 3.5内容安全多模态企业AI10 个信源在谈推荐理由:企业部署 AI 最头疼的就是内容安全合规,NVIDIA 这个模型直接让企业按自己的政策微调安全过滤规则,做 AI 应用落地的团队值得关注。原文
14:13宝玉@doteyOpenAI 的 GPT Image Gen V2 在生成逼真图片方面取得显著进展,用户 Emily 分享的示例展示了模型能根据详细提示生成高度真实的手机自拍截图。该图片包含低分辨率、运动模糊、美颜滤镜、压缩伪影等真实手机照片的典型特征,甚至模拟了中文短视频应用的界面元素。这一能力让 AI 生成的图片在视觉上几乎无法与真实照片区分,引发对深度伪造和内容真实性的讨论。AI产品GPT Image Gen V2图像生成深度伪造内容安全OpenAI10 个信源在谈推荐理由:AI 生成图片的真实感已经跨越了恐怖谷,做内容创作、社交媒体运营或关注 AI 安全的人,建议点开看看这组截图——你很可能分不清真假。原文
01:02IT之家(博客/媒体)上海网信办宣布启动为期4个月的“清朗·整治AI应用乱象”专项行动,分两个阶段推进。第一阶段重点整治大模型未备案、安全审核不足、训练语料安全、数据投毒及生成内容标识缺失等问题。第二阶段聚焦AI生成虚假信息、暴力低俗内容、假冒仿冒、侵害未成年人权益及网络水军等乱象。小红书、MiniMax、拼多多等平台已发布治理公告并升级安全机制。专项行动旨在规范AI服务,促进行业健康发展。行业AI监管内容安全大模型备案上海网信办平台治理推荐理由:AI应用乱象频发,这次上海网信办动真格了——4个月专项治理覆盖备案、安全、内容全链条,做AI产品、运营平台或内容审核的团队,建议对照自查,避免踩红线。原文