07:26GitHub Blog@Natalie GuevaraGitHub与多个组织组成联盟,要求对加州AI透明度法案(CA AI Transparency Act)进行针对性修正,以避免与开源许可证冲突。该法案要求AI开发者披露训练数据来源,但可能对开源项目造成合规负担。联盟希望调整条款以与国际透明度框架(如欧盟AI法案)对齐,同时保留监管初衷。修正焦点包括明确开源豁免范围和简化披露义务。行业GitHub开源AI透明度法案加州政策监管推荐理由:GitHub联合多方给加州AI法案打补丁,专为开源项目争取豁免,避免许可证冲突,开源社区的人可以关注。原文
04:34rohanpaul_ai@rohanpaul_ai83°Anthropic CEO Dario Amodei 发表长篇博客,警告前沿 AI 发展速度已超过政府监管能力,呼吁紧急政策改革。他提出四项核心建议:强制预发布测试和独立审计,赋予政府阻止高风险模型部署的权力;加强 AI 公司安全规则,包括模型权重保护、红队测试和关键事件报告;为 AI 驱动的劳动力颠覆做好准备,通过测量、就业激励、工资支持和长期收入补贴;民主国家应在 AI 安全、芯片供应链、出口管制和共同防御上全球协调。这反映了业界对 AI 风险治理的紧迫担忧。行业AI 安全政策监管前沿模型劳动力影响全球协调10 个信源在谈推荐理由:Amodei 的呼吁直击当前 AI 监管的最大痛点——速度不匹配,关注 AI 治理、政策制定或技术风险的读者值得细读,尤其是做 AI 安全或公共政策的团队,建议点开了解具体提案。原文
19:14Decoder@Matthias BastianOpenAI 正在调整其 AI 发展路线,不再追求到 2028 年实现完全自主的 AI,而是强调人机“协同”模式。CEO Sam Altman 和首席科学家 Jakub Pachocki 呼吁建立国际机构,必要时可减缓前沿 AI 开发速度。这一表态标志着 OpenAI 从早期“完全自动化”愿景的转向,反映了对 AI 安全和社会影响的更深思考。文章还提到,OpenAI 认为人类应始终在关键决策中保持控制权。行业OpenAIAI 安全人机协同行业趋势政策监管10 个信源在谈推荐理由:OpenAI 主动降低对“完全自动化”的预期,做 AI 战略或政策研究的团队值得关注——这可能是行业风向转变的信号。原文
10:28arXiv: OpenAI@Yaoxi Shi, Cathy Mengying Fang, Pattie Maez, Amit Goldenberg72°这篇论文挑战了公众和政策制定者对AI情感支持的普遍认知:它并非孤独用户主动寻求安慰的刻意行为,而是常常在通用AI平台的任务导向交互中偶然发生,类似于职场友谊通过合作自然深化。研究发现,这些偶然的积极体验会改变用户对AI情感能力的信念,并逐步引导他们更倾向于向AI而非人类寻求支持。一项与OpenAI合作的大规模纵向研究表明,连续28天每天与AI进行5分钟个人话题对话后,用户对人类支持的偏好下降了10.3%,对AI的偏好上升了11.6%。作者认为,当前聚焦于陪伴型应用和孤立交互的监管政策无法有效保护人际连接,应将通用AI系统纳入监管,并关注用户寻求支持方式的累积性、轨迹级变化。论文AI情感依赖人际连接行为改变通用AI系统政策监管2 个信源在谈推荐理由:这篇论文戳破了AI情感依赖的常见误解——不是只有孤独的人才会依赖AI,日常任务中的偶然互动也在悄悄改变你的社交偏好。关心AI对人际关系长期影响的读者,看完会重新审视自己与AI的每一次对话。原文
01:34Decoder@Matthias Bastian白宫发布行政令,要求五角大楼和CISA等机构在30天内利用AI工具加强网络防御。AI开发者可自愿提交模型进行安全测试,但命令明确排除强制性审批。鉴于近期政府对AI公司的压力,这种合作的自愿性仍存疑问。该命令旨在平衡AI创新与国家安全,但业界对自愿机制的实际效果持观望态度。行业AI安全行政令网络防御自愿审查政策监管推荐理由:AI安全合规是每个AI团队绕不开的议题,这份行政令直接影响了模型发布和审查流程,做AI产品和安全合规的开发者值得关注后续动向。原文
01:16OpenAI Blog(博客/媒体)OpenAI 公布了其公共政策议程,涵盖 AI 安全、青少年保护、劳动力转型和全球标准制定。该议程旨在确保 AI 技术发展惠及社会,并应对潜在风险。OpenAI 强调需要建立明确的监管框架,以平衡创新与安全。这一举措反映了 AI 行业在政策层面的主动参与,可能影响未来全球 AI 治理方向。行业AI 安全政策监管全球标准OpenAI劳动力转型10 个信源在谈推荐理由:关注 AI 治理和政策的从业者、研究者及政策制定者值得一读——OpenAI 的议程可能成为行业监管的风向标,建议点开了解其对安全与创新的平衡思路。原文
18:02rohanpaul_ai@rohanpaul_ai美国总统特朗普签署行政令,要求领先的AI开发者在发布最强大的AI模型前,自愿提交给政府进行网络安全测试,测试期最长30天。该政策旨在让防御者有时间准备补丁和安全措施,针对的是具有高级网络能力的“覆盖前沿模型”,而非所有新模型。模型需通过NSA等机构制定的分类基准测试,达到政府定义的阈值。行政令明确不强制许可或审批,参与实验室可在保密、知识产权等保护下提供早期访问。此举平衡了安全审查与创新自由,影响AI行业发布流程。行业AI安全网络安全审查特朗普行政令前沿模型政策监管推荐理由:AI开发者和安全团队需要关注这个政策——它可能改变前沿模型的发布节奏,但又不强制许可,值得了解具体门槛和测试流程。原文
07:05IT之家(博客/媒体)美国总统特朗普于6月3日签署行政令,推出AI企业自愿合作机制:前沿大模型在正式发布前,企业可自愿向联邦政府提交模型进行安全评估。该行政令旨在平衡技术创新与安全风险,避免繁重监管的同时,强化关键基础设施网络安全防护。新规将前置报备窗口期缩短至发布前30天,企业配合提交可享受保密保护。此举标志着特朗普政府从宽松放任转向适度监管,起因于Anthropic的Mythos模型自主排查出数千项高危系统漏洞。谷歌、微软与xAI已同意参与,行业机构也给予正面评价。行业AI安全政策监管特朗普大模型自愿评估10 个信源在谈推荐理由:特朗普政府从「放任」转向「自愿安全评估」,做AI大模型的企业需要关注这个信号——提交模型可获保密保护,不提交也无强制压力,但安全漏洞风险正在倒逼监管。建议AI安全负责人和合规团队点开了解窗口期和参与机制。原文