AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:内容安全×
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
6月5日
04:32
04:32Hugging Face: Blog(博客/媒体)
NVIDIA 推出 Nemotron 3.5 Content Safety,这是一款面向全球企业 AI 的可定制多模态安全模型。它支持文本和图像输入,能够检测有害内容(如仇恨言论、暴力、色情等),并允许企业根据自身政策进行微调。该模型基于 Llama 3.1 架构,提供 8B 和 70B 两种规模,在多个安全基准上表现优异。Nemotron 3.5 旨在帮助企业安全部署生成式 AI,满足不同地区的合规要求。
AI模型NVIDIANemotron 3.5内容安全多模态企业AI

推荐理由:企业部署 AI 最头疼的就是内容安全合规,NVIDIA 这个模型直接让企业按自己的政策微调安全过滤规则,做 AI 应用落地的团队值得关注。
原文
6月3日
14:13
14:13宝玉@dotey
OpenAI 的 GPT Image Gen V2 在生成逼真图片方面取得显著进展,用户 Emily 分享的示例展示了模型能根据详细提示生成高度真实的手机自拍截图。该图片包含低分辨率、运动模糊、美颜滤镜、压缩伪影等真实手机照片的典型特征,甚至模拟了中文短视频应用的界面元素。这一能力让 AI 生成的图片在视觉上几乎无法与真实照片区分,引发对深度伪造和内容真实性的讨论。
AI产品GPT Image Gen V2图像生成深度伪造内容安全OpenAI

推荐理由:AI 生成图片的真实感已经跨越了恐怖谷,做内容创作、社交媒体运营或关注 AI 安全的人,建议点开看看这组截图——你很可能分不清真假。
原文
5月17日
01:02
01:02IT之家(博客/媒体)
上海网信办宣布启动为期4个月的“清朗·整治AI应用乱象”专项行动,分两个阶段推进。第一阶段重点整治大模型未备案、安全审核不足、训练语料安全、数据投毒及生成内容标识缺失等问题。第二阶段聚焦AI生成虚假信息、暴力低俗内容、假冒仿冒、侵害未成年人权益及网络水军等乱象。小红书、MiniMax、拼多多等平台已发布治理公告并升级安全机制。专项行动旨在规范AI服务,促进行业健康发展。
行业AI监管内容安全大模型备案上海网信办平台治理

推荐理由:AI应用乱象频发,这次上海网信办动真格了——4个月专项治理覆盖备案、安全、内容全链条,做AI产品、运营平台或内容审核的团队,建议对照自查,避免踩红线。
原文
精选全部日报登录