AITOP

平台治理

共 4 条相关 AI 资讯
8月10日
12:03
12:03IT之家（博客/媒体）
7月底，抖音在北京举办“玩梗式网暴案例研讨会”，首次引入外部专家参与复杂案例处置评审。研讨会围绕公众人物、普通创作者、公职人员三类案例，讨论玩梗式网暴的识别与治理边界。抖音提出网暴认定的三大核心要素：指向性、危害性、规模化，并确立避免伤害等四大治理原则。平台披露了“模型识别—人工研判—处置保护”的闭环流程，表示目前指向性标准仅覆盖自然人。
行业抖音网络暴力平台治理
推荐理由：抖音这次请了法学、心理学专家一起判网暴案例，还公开了判定标准和处置流程，想了解平台怎么治理玩梗攻击的可以看看。
原文
8月9日
14:58
5月21日
10:48
10:48IT之家（博客/媒体）
苹果 Apple Music 发布公开信，明确不会封杀 AI 生成音乐，但要求内容必须清晰标注，不得误导用户或冒充真人创作者。目前 AI 音乐在平台总播放量占比不到 1%，但苹果已将其纳入治理范围。苹果在今年 3 月率先上线 AI 内容标签支持，未来将强制所有内容提供方提交元数据。苹果还开发了内部工具识别 AI 内容，重点打击欺诈、垃圾内容和流量操纵行为。
行业AI音乐Apple Music内容标注
推荐理由：流媒体平台对 AI 音乐的态度首次明确——不封杀但严监管，音乐行业从业者和 AI 音乐创作者需要了解苹果的标注和防滥用规则，建议点开看具体措施。
原文
5月17日
01:02
01:02IT之家（博客/媒体）
上海网信办宣布启动为期4个月的“清朗·整治AI应用乱象”专项行动，分两个阶段推进。第一阶段重点整治大模型未备案、安全审核不足、训练语料安全、数据投毒及生成内容标识缺失等问题。第二阶段聚焦AI生成虚假信息、暴力低俗内容、假冒仿冒、侵害未成年人权益及网络水军等乱象。小红书、MiniMax、拼多多等平台已发布治理公告并升级安全机制。专项行动旨在规范AI服务，促进行业健康发展。
行业AI监管内容安全大模型备案
推荐理由：AI应用乱象频发，这次上海网信办动真格了——4个月专项治理覆盖备案、安全、内容全链条，做AI产品、运营平台或内容审核的团队，建议对照自查，避免踩红线。
原文