01:33官方账号OpenAI@OpenAIOpenAI宣布一项新计划,旨在帮助研究者利用前沿AI加速科研工作。该计划强调AI的好处不应集中在少数公司和资源丰富的实验室。研究者可借助这些工具提高生产力,包括准备拨款申请和测试假设等任务。行业OpenAI研究者计划前沿AI10 个信源在谈事件专题推荐理由:OpenAI给研究者送福利了,免费提供前沿AI工具,帮你写申请、做实验,加速科研进度。原文稍后读已读值得跟进有用关注 OpenAI
09:28官方账号arXiv cs.AI@Wilber Sean Anterola, Matthew Ball, Luis F. Lafuerza, Markov Grey前沿AI公司公布的能力阈值差异显著,使得第三方难以验证阈值是否被超过或跨公司比较需求。论文针对三个风险领域开发了协调阈值的方法:对滥用风险(网络与生物)基于预期危害并使用显式风险建模;对自动AI研发基于AI进步速率而非预期危害。该分析扩展了先前工作并指出了现有实证差距与局限性。论文AI安全阈值协调风险建模推荐理由:这篇论文给了我们一套统一安全阈值的方法,让不同公司的标准能对齐,避免恶性竞争。如果你关心AI安全怎么落地,可以看看。原文稍后读已读值得跟进有用关注 AI安全
09:54Gary Marcus@GaryMarcusRamez Naam在推文中警告,若前沿AI仅由少数美国公司掌控并受美国政府意志左右,将带来高反乌托邦风险。他认为应促进激烈竞争、开源模型(open weight models)以及不受白宫控制的AI发展。Gary Marcus转发了这一观点,引发对AI权力集中风险的讨论。行业Ramez NaamGary Marcus前沿AI推荐理由:Ramez Naam和Gary Marcus在聊一个严肃话题:前沿AI被少数美国公司垄断,受政府支配,有反乌托邦风险。他们呼吁开源和竞争,值得看看。原文稍后读已读值得跟进有用关注 Ramez Naam
01:23kimmonismus@kimmonismus英国首相Keir Starmer向特朗普政府请求豁免,允许英国国民和公司重新访问Anthropic的最先进AI模型。一位特朗普政府官员向《纽约邮报》表示,即使是G7盟友也不予例外,称给予豁免“完全不合逻辑”。美国正与Anthropic及其CEO Dario Amodei直接谈判解决禁令问题,但此举表明前沿AI模型已被视为战略国家安全资产,商业获取可能变为地缘政治特权。行业Anthropic前沿AI国家安全10 个信源在谈事件专题推荐理由:美国把前沿AI当战略资产,连英国盟友都吃闭门羹,这事关全球AI权力格局,你应该看看。原文稍后读已读值得跟进有用关注 Anthropic
05:12官方账号Dario Amodei@DarioAmodeiAnthropic CEO Dario Amodei 在推文中表示,公司长期以来主张对前沿AI实施透明度要求,因为此前风险尚不明确,难以精准监管。但他认为现在情况已变,仅靠透明度已不足以应对当前风险,暗示需要更严格的监管措施。这一表态反映了AI安全领域对监管升级的紧迫需求。行业AI安全监管Anthropic10 个信源在谈事件专题推荐理由:AI安全监管进入新阶段,关注AI治理的从业者和政策制定者需要了解这一信号,建议点开原文看完整表态。原文稍后读已读值得跟进有用关注 AI安全
06:43a16z@a16z前OpenAI CTO Mira Murati在Bloomberg Tech Live上表示,前沿AI的发展结果并非预先注定。她认为,预测乌托邦或反乌托邦过于简化,人类在技术构建、工具开发和部署方式上拥有很大的主动权。Murati强调,当前人类与AI系统共同掌控方向盘的时期至关重要,需要正确把握。她承认存在风险,但也看到了前沿AI系统的巨大潜力,这正是她继续工作的原因。行业Mira Murati前沿AI人类主动权10 个信源在谈事件专题推荐理由:Murati的观点为AI从业者和关注者提供了务实视角——未来不是被动等待的,做AI产品、政策或研究的团队值得听听这位行业关键人物的思考。原文稍后读已读值得跟进有用关注 Mira Murati
04:46a16z@a16zOpenAI前CTO Mira Murati在Bloomberg Tech Live上提出,前沿AI的发展不应是“人类在环中”的检查点式监督,而应像双人自行车——人类和AI共同协作,人类始终手握方向。她强调,这种设计能提升人类能动性,并帮助研究朝着更符合人类价值观的方向发展。Murati的比喻引发了关于AI安全与协作模式的广泛讨论。行业AI安全人机协作Mira Murati10 个信源在谈事件专题推荐理由:Murati用双人自行车重新定义了AI协作关系,对AI安全研究者、产品经理和关注AI治理的从业者来说,这个比喻比“人类在环中”更精准,值得思考如何落地。原文稍后读已读值得跟进有用关注 AI安全
08:03AI Will@FinanceYF5Anthropic 在过去几个月与学者、哲学家、神职人员和伦理学家举行对话,探讨 AI 引发的伦理问题,特别是良好品格如何形成。他们正在扩大关于前沿 AI 的讨论范围,从技术层面延伸到人文与伦理维度。相关文章已发布在 Anthropic 官网,详细阐述了这一倡议的背景与意义。行业AnthropicAI伦理人文对话10 个信源在谈事件专题推荐理由:Anthropic 将 AI 伦理讨论从技术圈拓展到人文领域,关注 AI 对品格与价值观的影响,关心 AI 社会影响的读者值得一读。原文稍后读已读值得跟进有用关注 Anthropic
06:08官方账号Anthropic@AnthropicAIAnthropic 发布了一篇关于中美 AI 竞争的论文,阐述了其对当前局势的看法。论文指出,美国及其民主盟友目前在尖端 AI 领域处于领先地位。文章进一步分析了保持这一领先地位所需的条件和策略。该论文为理解全球 AI 竞争格局提供了重要视角。行业AI竞争中美关系Anthropic2 个信源在谈事件专题推荐理由:关注 AI 地缘政治的读者必读——Anthropic 从技术前沿视角拆解中美竞争,做政策研究或战略决策的团队值得点开。原文稍后读已读值得跟进有用关注 AI竞争