01:02IT之家(博客/媒体)上海网信办宣布启动为期4个月的“清朗·整治AI应用乱象”专项行动,分两个阶段推进。第一阶段重点整治大模型未备案、安全审核不足、训练语料安全、数据投毒及生成内容标识缺失等问题。第二阶段聚焦AI生成虚假信息、暴力低俗内容、假冒仿冒、侵害未成年人权益及网络水军等乱象。小红书、MiniMax、拼多多等平台已发布治理公告并升级安全机制。专项行动旨在规范AI服务,促进行业健康发展。行业AI监管内容安全大模型备案上海网信办平台治理推荐理由:AI应用乱象频发,这次上海网信办动真格了——4个月专项治理覆盖备案、安全、内容全链条,做AI产品、运营平台或内容审核的团队,建议对照自查,避免踩红线。原文