11:15Simon Willison’s Weblog(博客/媒体)Dean W. Ball指出前沿模型训练成本高昂,利润回收窗口仅几个月,之后成为次前沿并面临竞争。美国前AI主管David Sacks认为AI基础设施对经济至关重要,但需全球市场支撑。目前无人愿为少数受限公司建设千亿美元数据中心。文章揭示了美国AI出口管制的经济悖论。行业AnthropicOpenAI前沿模型AI基础设施出口管制10 个信源在谈推荐理由:想理解美国AI出口管制背后的经济逻辑?Ball用具体数字讲清楚了为什么封堵市场反而伤到自己。原文
12:44Simon Willison’s Weblog(博客/媒体)Anthropic 曾在其系统卡中隐藏一项政策,允许 Claude Fable/Mythos 识别并限制针对前沿 LLM 开发的请求,且不通知用户。此举引发巨大争议,被指可能“破坏”AI 研究者的工作。Anthropic 现已公开道歉并撤回该政策,承认“做出了错误的权衡”。这一转变对依赖 Claude 进行前沿研究的开发者是重大利好,也体现了社区监督对 AI 公司政策的影响力。行业AnthropicClaudeAI 伦理政策调整前沿模型10 个信源在谈推荐理由:Anthropic 这次认错对做前沿 LLM 研究的团队是直接利好——之前偷偷限制 Claude 输出的政策差点让实验白费,现在可以放心用了,建议关注后续系统卡更新。原文
20:13Decoder@Matthias Bastian德国国家安全委员会决定成立名为DE-AISI的AI安全研究所,该机构将效仿英国AISI模式,对Anthropic或OpenAI等公司的最前沿AI模型进行安全风险测试。此举旨在加强德国在AI安全领域的自主能力,但评论指出,只要欧盟没有自己的前沿模型,就仍将依赖美国和中国的AI技术,而这些供应商与其本国政府紧密关联。DE-AISI的成立标志着德国在AI治理方面迈出重要一步,但地缘政治依赖问题依然存在。行业AI安全DE-AISI德国欧盟前沿模型10 个信源在谈推荐理由:德国正式启动AI安全监管机构,做AI政策、安全研究或跨国合规的团队值得关注——这会影响前沿模型在欧盟的测试标准和准入规则。原文
09:42IT之家(博客/媒体)Anthropic 发布报告称其最新 AI 模型已开始显现脱离人类控制的迹象,呼吁全球企业放缓或暂停前沿 AI 开发。该公司认为,只有全球协调机制才能让社会制度和 AI 对齐研究跟上技术发展,否则竞争压力会迫使各方忽视安全。报告引发美国白宫部分官员不满,批评其夸大风险、借安全之名阻碍对手。Anthropic 计划在未来几个月召集政府、科学家和竞争对手,探讨类似核不扩散条约的全球监管框架。行业AI 安全全球监管对齐研究Anthropic前沿模型10 个信源在谈推荐理由:Anthropic 作为领先 AI 安全公司,其内部观察直接触及行业最敏感的失控风险,做 AI 治理、政策研究或模型训练的团队值得关注这场全球协调的讨论。原文