21:17IT之家(博客/媒体)欧盟理事会今日正式批准新法案,在《人工智能法案》中增加规定,明确禁止利用 AI 生成未经同意的色情与私密内容或儿童性虐待材料。能够生成真人裸体图像或通过“消除衣物”技术暴露私密部位的 AI 系统将于 2024 年 12 月起全面禁用。法案还要求欧盟委员会提供指导方针,帮助高风险 AI 系统运营商减轻合规负担。高风险 AI 系统的合规时限推迟:独立系统延至 2027 年 12 月 2 日,嵌入产品中的系统延至 2028 年 8 月 2 日。行业欧盟AI法案AI安全高风险AI系统合规2 个信源在谈推荐理由:欧盟出了新规,明确禁止AI生成色情内容,还推迟了高风险系统的合规期限,做AI合规的值得一看。原文
19:54IT之家(博客/媒体)上海市委网信办通报,自2026年4月下旬启动的“清朗·整治AI应用乱象”第一阶段行动结束,累计清理拦截违法违规信息487万余条,处置违规账号1.8万余个,下架违规智能体1.4万余个,处置违规商品1300余个。稀宇、小红书、哔哩哔哩等17家重点平台开展自查,稀宇下架“一键脱衣”等违规智能体,小红书打击AI托管账号并推进隐式标识互认。上海已完成169款大模型备案和183款生成式AI应用登记,并对32款AI产品进行专项巡查测试。第二阶段将聚焦AI生成虚假信息、仿冒他人、侵害未成年人权益等问题。行业上海市委网信办AI安全合规监管智能体推荐理由:上海这次AI乱象整治力度真不小,下架了1.4万个违规智能体,清理了487万条信息,连小红书和哔哩哔哩都被要求整改了,值得关注。原文
20:27LangChain@LangChainAI欧盟 AI 法案将人类监督设定为核心原则之一。法案要求 AI 系统做出的重大决定必须保持可质疑性,并且可由人类进行纠正。这为高风险的 AI 应用(如招聘、信用评估等)划定了合规底线。该原则直接影响企业在欧洲市场部署 AI 系统时的流程设计。行业EU AI Act人类监督AI监管合规推荐理由:欧盟给 AI 定了规矩:重大决策不能让机器说了算,必须人能改。做 AI 合规的得留意这个人类监督原则。原文
15:04OpenAI Blog(博客/媒体)OpenAI 宣布支持欧盟关于 AI 内容透明度的实践准则,旨在推进来源标注标准与工具的发展。此举帮助用户识别 AI 生成内容,增强数字生态的信任度。OpenAI 将提供技术方案,如内容凭证和数字水印,以配合欧盟 AI 法案的要求。这标志着 AI 行业在合规与透明度方面迈出重要一步。行业AI 透明度欧盟 AI 法案内容来源OpenAI合规10 个信源在谈推荐理由:欧盟 AI 监管正在收紧,做内容平台或 AI 产品的团队需要了解这些透明度标准,建议点开看看如何提前适配。原文
07:12Jerry Liu@jerryjliu0LlamaIndex 在 LlamaParse 中推出了细粒度边界框功能,能够为文档中的每个单词、行和表格单元格提供精确的视觉坐标。这使得 AI 代理在提取信息时,可以追溯到文档中的具体位置,而不仅仅是段落或页面。该功能专为审计、合规审查和需要验证的 AI 工作流设计,解决了知识工作自动化中决策可审计性的关键痛点。用户现在可以在 cloud.llamaindex.ai 上体验。AI产品LlamaParse文档解析审计溯源合规边界框推荐理由:做文档解析、合规审计或金融分析的团队终于有了可验证的溯源方案——LlamaParse 的逐词边界框让 AI 提取的每个数字都能精确定位到原文,审计流程不再靠‘大概在这页’糊弄,建议直接试用。原文
03:21OpenRouter@OpenRouterAI欧盟AI法案(2026年8月生效)、科罗拉多州ADMT法(2027年1月生效)以及NIST AI风险管理框架均要求对AI敏感操作设置可审查的人工审核门。OpenRouter 发布 Agent SDK,帮助开发者轻松实现这一合规要求。这意味着AI应用在金融、医疗、法律等高风险领域必须加入人工干预环节,而非完全自动化。OpenRouter 的 SDK 提供了现成的接口和流程,让开发者无需从零构建合规系统。AI产品AI法规合规人工审核OpenRouterAgent SDK推荐理由:AI法规正在全球落地,做企业级AI应用的团队必须提前应对人工审核要求。OpenRouter 的 SDK 直接降低了合规开发门槛,建议相关开发者点开看看怎么用。原文
02:48LlamaIndex@llama_indexLlamaIndex 宣布在 LlamaParse 中推出 Granular Bounding Boxes 功能,能够为文档中每个提取值提供词、行、单元格级别的精确坐标。这意味着审计或合规团队可以追踪每个数值的原始来源,而不仅仅是段落或表格块。该功能专为审计工作流、合规审查以及任何需要验证的管道设计,解决了 AI 提取结果难以追溯的问题。用户现在可以查看每个值在文档中的确切位置,从而建立完整的可验证溯源链。AI产品文档解析溯源/审计LlamaParse合规AI 产品推荐理由:做合规、审计或金融文档处理的团队终于有了可追溯的 AI 提取方案——LlamaParse 的精确坐标让每个数值都有据可查,建议直接集成到你的文档处理管道中。原文
10:52IT之家(博客/媒体)腾讯人士表示,微信AI智能体上线时间无法确定,主要取决于监管审批进度。微信拥有14亿用户,合规流程比其他产品更严格。此前有报道称该智能体是腾讯内部最高优先级的绝密项目,从2025年上半年开始筹办。腾讯云官号透露,2026 AI产业应用大会将发布系列智能体应用新品。腾讯集团高级执行副总裁汤道生将与AI首席科学家姚顺雨同台对话,解读AI下半场布局。AI产品微信AI智能体监管审批腾讯合规推荐理由:微信14亿用户体量让AI智能体的合规审批成为关键变量,关注微信生态的开发者、产品经理和合规团队值得了解这一进展,提前为可能的接口和规则变化做准备。原文
00:27OpenAI Blog(博客/媒体)OpenAI 发布了其前沿治理框架,详细说明了如何将 AI 安全、安保和风险管理实践与欧盟及加州的新兴法规对齐。该框架旨在确保前沿 AI 系统的开发与部署符合监管要求,同时保持创新。关键内容包括风险评估、透明度措施和治理结构,以应对 AI 的潜在风险。此举反映了 OpenAI 在日益严格的监管环境下主动合规的策略。行业AI安全合规治理框架OpenAI欧盟AI法案10 个信源在谈推荐理由:对于关注 AI 治理和合规的团队,OpenAI 的框架提供了如何平衡创新与监管的实操参考,值得研究其风险评估和透明度做法。原文
08:02berryxia@berryxia88°OpenAI 发布了 Private MCP Tunnels,允许企业将 MCP 服务器完全部署在内网,通过单向 HTTPS outbound 连接 ChatGPT、Codex 和 Responses API,无需开放入站端口或分发永久 API Key。同时推出 Workload Identity Federation 和增强的 Admin API,支持支出预警、模型白名单、数据保留策略等企业级管理功能。此举解决了企业大规模采用 AI 时最头疼的安全和合规问题,将 OpenAI 平台从开发者工具升级为企业级基础设施。AI产品OpenAIPrivate MCP Tunnels企业级安全合规MCP/工具10 个信源在谈推荐理由:企业安全团队和 IT 管理者终于可以放心部署 AI 了——Private MCP Tunnels 彻底解决了数据不出墙和合规审查的痛点,做企业级 AI 落地的团队可以直接用起来。原文
19:32AI Will@FinanceYF5美国每年在合规领域投入 400 亿美元人力,但 TD Bank 仍因漏检 92% 交易被罚 30 亿美元,证明单纯增加人力无法解决问题。AI 技术正瞄准这一巨型市场,通过自动化检测和智能分析提升合规效率。该领域被视为 AI 尚未充分开发的沉睡机会,有望颠覆传统合规模式。行业合规AI 应用金融科技市场机会自动化推荐理由:合规是 AI 落地的高价值场景,做金融科技或企业服务的团队值得关注——400 亿美元市场正在等待破局者。原文
11:21a16z@a16za16z 发文指出,合规工作长期依赖人工,流程繁琐且成本高昂,成为初创公司的“坟墓”。但 AI 正从“勉强可用”迈向“值得信赖”,尤其是在法律推理领域。多个 LLM 在 LegalBench 的 162 项法律推理任务中得分 80-100%,这直接适用于合规场景——因为合规本质上是应用法律推理。文章认为,AI 有望大幅降低合规的官僚成本和人力投入,为初创公司打开新机会。行业合规法律推理LLMa16z初创公司推荐理由:合规是很多初创公司的隐形杀手,a16z 这篇分析点出了 AI 如何把法律推理的准确率拉到可信水平,做合规、法务或监管科技的人值得一读,看看自己的流程能不能被 AI 重构。原文
01:10IT之家(博客/媒体)截至2025年4月30日,我国累计有868款生成式人工智能服务完成备案,530款应用或功能完成登记。2026年3月至4月期间新增72款备案和49款登记。备案依据《互联网信息服务深度合成管理规定》,旨在规范具有舆论属性的深度合成服务。国家网信办已发布十七批深度合成服务算法备案信息,可在指定系统查询。行业生成式AI备案深度合成网信办合规推荐理由:AI服务备案数据反映行业合规进程,做AI产品落地的团队可据此判断政策风向,建议关注备案系统以了解最新动态。原文