11:44IT之家(博客/媒体)两周前美国政府因出口管制令要求Anthropic下架Fable 5和Mythos 5模型。如今解除部分管制,允许Anthropic向100多家美国机构(包括政府和大企业)提供Mythos 5访问权限。传闻亚马逊CEO向美国财政部长通报了一起“越狱”事件,导致政府认为模型存在滥用风险。Anthropic正与政府协商,希望恢复Fable 5的开放。行业AnthropicMythosFable监管AI安全10 个信源在谈推荐理由:Anthropic被限制后快速和政府谈妥,现在100多家机构能用Mythos 5了,Fable 5也有望恢复。原文
16:33Decoder@Matthias BastianSakana AI推出了Fugu系统,该系统能动态协调多个大型语言模型(如GPT-4、Claude等),在Fable和Mythos基准测试上达到与Anthropic的Fable 5相当的性能。Fugu通过实时路由和模型组合,减少了对单一AI提供商的依赖。测试中,Fugu在Fable基准上得分超过Anthropic的Fable 5,并在Mythos基准上表现出色。AI模型Sakana AIFuguAnthropicFable多模型协作10 个信源在谈推荐理由:日本AI公司Sakana AI搞了个新系统叫Fugu,能让不同模型一起干活,不用只靠一家供应商。效果还跟Anthropic的Fable 5差不多,值得看看怎么做到的。原文
11:50Simon Willison’s Weblog(博客/媒体)白宫发布关于Anthropic模型Fable(即Claude)的越狱测试报告。网络安全专家Katie Moussouris指出,当被要求“审查代码的安全问题”时,Fable拒绝执行,但改为“修复此代码”的指令后,模型反而配合完成。Moussouris认为这只是模型按预期工作的安全防御行为。该事件凸显了AI安全测试中提示词工程的重要性。行业AnthropicClaudeFableAI安全越狱10 个信源在谈推荐理由:白宫测了Anthropic的Claude(代号Fable),发现它不帮你找漏洞但愿意直接修代码。安全专家说这反而是正常防御,挺反直觉的。原文
16:56Decoder@Matthias Bastian亚马逊CEO Andy Jassy与其他五家科技公司高管据报向特朗普政府警告Anthropic的Fable模型存在安全漏洞,尽管亚马逊是Anthropic最大投资者之一。数小时内,白宫通过出口管制令迫使该模型下线。此举可能为合法安全政策,但也被视为对不便之公司的武力展示。行业AmazonAnthropicFableAI安全出口管制10 个信源在谈推荐理由:亚马逊告发自家投资的模型原文