04:32Hugging Face: Blog(博客/媒体)NVIDIA 推出 Nemotron 3.5 Content Safety,这是一款面向全球企业 AI 的可定制多模态安全模型。它支持文本和图像输入,能够检测有害内容(如仇恨言论、暴力、色情等),并允许企业根据自身政策进行微调。该模型基于 Llama 3.1 架构,提供 8B 和 70B 两种规模,在多个安全基准上表现优异。Nemotron 3.5 旨在帮助企业安全部署生成式 AI,满足不同地区的合规要求。AI模型NVIDIANemotron 3.5内容安全多模态企业AI10 个信源在谈推荐理由:企业部署 AI 最头疼的就是内容安全合规,NVIDIA 这个模型直接让企业按自己的政策微调安全过滤规则,做 AI 应用落地的团队值得关注。原文
01:02IT之家(博客/媒体)上海网信办宣布启动为期4个月的“清朗·整治AI应用乱象”专项行动,分两个阶段推进。第一阶段重点整治大模型未备案、安全审核不足、训练语料安全、数据投毒及生成内容标识缺失等问题。第二阶段聚焦AI生成虚假信息、暴力低俗内容、假冒仿冒、侵害未成年人权益及网络水军等乱象。小红书、MiniMax、拼多多等平台已发布治理公告并升级安全机制。专项行动旨在规范AI服务,促进行业健康发展。行业AI监管内容安全大模型备案上海网信办平台治理推荐理由:AI应用乱象频发,这次上海网信办动真格了——4个月专项治理覆盖备案、安全、内容全链条,做AI产品、运营平台或内容审核的团队,建议对照自查,避免踩红线。原文