#内容审核

Musubi开源了1.7B参数的PolicyLM模型，专为实时内容审核打造，轻量高效。

techcrunch@Russell Brandom原文

Anthropic 把 Claude 聊天里威胁警局的对话交给了警方，用户真被抓了。聊 AI 时说的每一句它都可能转给警察，这个案例值得看看。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

Uniopen用Amazon SageMaker微调了Nova 2 Lite，专门做零售内容审核，有完整的质量控制流程。

官方一手AWS Machine Learning Blog@Felix Chin, Jia-You Lin原文

YouTube 判定 AI 视频的规则被拆开讲了，做视频号或者用 Sora、Veo 之类工具搞创作的朋友最好看看，别踩披露要求的坑。

Tech in Asia@Techinasia原文

Meta的AI识别系统又出bug，把普通照片误标为AI生成，用户一脸懵。

官方账号theverge@Jess Weatherbed原文

Spotify 要动手清理 AI 歌手了，9 月起给 AI 生成艺人打标签，不推荐给用户，真人歌手优先。

Mistral出了30亿参数的开源审核模型，16GB显卡就能跑，审核规则可写进输入，适合做内容过滤。

阿里云晒出真实客户案例：EaseMate用他们AI服务，内容审核准到99.5%以上，还省了20%成本，做AI平台的人都该看看。

官方账号阿里云 Alibaba Cloud@alibaba_cloud原文

Substack 上了个新工具，能告诉你一篇文章有多少是 AI 写的，防止被“假人”内容忽悠。

发抖音、小红书前用它审一遍，能避免被限流。它按官方规则检查，还带AI语境判断，比单纯屏蔽词库靠谱。

Geek@geekbb原文

X 用自家 Grok AI 抓抄袭，收益直接转给原作者，还打击标题党。做内容的可以关注下。

techcrunch@Sarah Perez原文

Flo Health 用 Amazon Bedrock 把概念验证做成了能用的医疗审核系统，效率提升明显，值得了解。

官方一手AWS Machine Learning Blog@Konstantin Lekh2 个信源在谈原文

Reddit被AI垃圾淹了，现在用AI反制，自己微调Llama 3把误删率压到4%，想抄作业的可以关注开源。

techcrunch@Amanda Silberling原文

Meta要用AI替代大半人工审核，员工都觉得太快了，看看他们担心什么

官方账号Decoder@Maximilian Schreiner原文

YouTube 这次把 AI 标签放到了更显眼的位置，还加入了自动检测，做视频创作的创作者和平台运营者需要关注——这会影响内容审核流程和观众信任度，建议点开看看具体规则。

YouTube 的自动检测系统将改变内容审核规则，做 AI 视频创作的团队需要提前了解合规要求，建议点开看看具体时间线和影响。

官方账号Decoder@Matthias Bastian原文

抖音用大模型把谣言处理效率提升了，做内容审核或平台运营的团队可以看看这套方案的实际效果，值得参考。

展示了当前AI图像生成工具在内容审核上的不一致性，对需灵活生成内容的用户有参考价值。

岚叔@lufzzliz3 个信源在谈原文