Primary sourceTechsauce
View sourceEvent ·Multi-source
OpenAI 推出 CSAM 检测分类器,违规 ChatGPT 账号将被永久封禁
OpenAI 宣布加强 ChatGPT 平台的儿童安全保护措施:尝试获取儿童性虐待内容(CSAM)的用户账号将被封禁 24 小时,情节严重者可能面临永久封号。同时 OpenAI 发布了一个 CSAM 检测分类器,可以识别图像是否由 AI 生成。 该分类器会免费开放给其他组织使用,帮助平台判断上传或传播的图像是否为 AI 生成的儿童性虐待内容。这一工具针对的是生成式图像模型普及后 AI 生成 CSAM 数量上升的问题,让缺乏自研检测能力的中小平台也能接入检测能力。 分类策略上 OpenAI 采取了分级处置:初次违规封禁 24 小时,反复或严重违规则升级为永久封禁。此前 NCMEC 等机构多次报告 AI 生成儿童性虐待材料举报量激增,OpenAI 此举将检测工具开源化,等于把治理责任扩展到整个行业生态。
Current read
OpenAI 给 ChatGPT 加了硬规则:碰 CSAM 先封 24 小时,再犯永久封号。它还放出一个能识别 AI 生成儿童违规图像的分类器,免费给其他平台用。做内容平台或社区运营的团队可以直接接入这个工具,省去自研检测的成本。
11 sources52° AI heatLast updated 2026/11/17 05:02:56
Evidence
11 sourcesRelated source 1IT之家
View sourceRelated source 2Rappler: Technology
View sourceRelated source 3Liputan6 Tekno
View sourceRelated source 4techcrunch
View sourceRelated source 5theverge
View sourceRelated source 6联合早报
View sourceRelated source 7Tech in Asia
View sourceRelated source 8The Business Times: Tech
View sourceRelated source 9Nikkei Asia
View sourceRelated source 10@koltregaskes
View sourceConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.