11:10arXiv cs.AI@Hugo Daumain, Driss Matrouf, Khaled Khelif, Mickael Rouvier语音生成技术的进步使合成语音越来越自然,导致欺骗检测更加困难。本研究将自监督语音表示模型转换为混合专家(MoE)架构,替换编码器层的前馈块为多个专家网络,并通过层间门控机制控制专家激活。专家网络能捕获互补的声学模式,同时保留自监督预训练学到的表示。在14个欺骗数据集上的评估显示,宏等错误率(EER)从5.46%降至4.81%,相对提升11.9%。论文Self-Supervised Speech ModelMixture-of-ExpertsAnti-SpoofingAI安全推荐理由:MoE让反欺骗更强,EER降11.9%原文
22:25Gary Marcus@GaryMarcusPeter Thiel 和 Balaji Srinivasan 资助的平台 Objection.ai 允许用户以2000美元起价投诉记者报道。平台由人类调查员审查后,提交给 OpenAI、Anthropic、Grok、Google 的 AI 模型组成的“陪审团”发布真实性裁决,并排名记者在真相讲述和更正方面的指标。记者若不回应辩护,裁决仍会在线发布。该系统将匿名来源视为不可信,排名靠后,而匿名来源是五角大楼文件等重大问责报道的关键。民权律师称其为“富人的高科技保护费”。行业Objection.aiPeter ThielAI陪审团媒体问责AI安全10 个信源在谈推荐理由:揭露AI被用来压制记者原文
22:25shao__meng@shao__meng76°Bloomberg 深度纪录片采访 Anthropic 联合创始人 Dario & Daniela Amodei 及 Claude Code 负责人 Boris Cherny,揭示公司从 OpenAI 出走后的发展历程。Anthropic 估值约 9650 亿美元,2026 年 Q1 年化增长约 80 倍,API 调用量同比 17 倍,首次盈利主要靠 Claude Code 等企业工具。Dario 维持 AI 可能在 1-5 年内消除约 50% 初级白领岗位的判断,并支持对华芯片出口管制。纪录片还披露了 Claude Mythos 发现数千个高危漏洞、与五角大楼冲突(拒绝无护栏使用后遭黑名单)等内幕。行业AnthropicClaudeDario AmodeiAI安全地缘政治10 个信源在谈推荐理由:Bloomberg 挖出 Anthropic 安全红线与五角大楼冲突原文
21:54IT之家(博客/媒体)微软CEO萨蒂亚·纳德拉在《纽约时报》Hard Fork播客中表示,AI发展可能导致部分岗位被取代,但能带来更多机遇。他批评当前行业用AI仅为跟风,而非创造实际价值,强调Token边际成本必须匹配实际价值,前沿模型不应解决非前沿问题。纳德拉认为AGI并非人类最后一项技术发明,编程等闭环任务进展大,但AI需构建整个经济体系都能用的生态系统。行业微软纳德拉AGIToken经济学AI安全推荐理由:纳德拉谈AI泡沫与AGI边界原文
16:56Decoder@Matthias Bastian亚马逊CEO Andy Jassy与其他五家科技公司高管据报向特朗普政府警告Anthropic的Fable模型存在安全漏洞,尽管亚马逊是Anthropic最大投资者之一。数小时内,白宫通过出口管制令迫使该模型下线。此举可能为合法安全政策,但也被视为对不便之公司的武力展示。行业AmazonAnthropicFableAI安全出口管制10 个信源在谈推荐理由:亚马逊告发自家投资的模型原文
11:52小互@imxiaohu该视频中,一位前OpenAI员工分享了他离开公司的原因,包括对AI安全方向的担忧以及公司内部文化的变化。他提到OpenAI从非营利转向商业化的过程中,优先考虑产品发布速度而非安全研究。视频还讨论了AGI发展路径上的分歧,以及他个人对AI风险的不同看法。行业OpenAIAI安全AGI商业化前员工10 个信源在谈推荐理由:前员工亲述离开OpenAI内幕原文
11:51小互@imxiaohu彭博社采访中,Anthropic CEO Dario Amodei 透露公司有一个未发布的模型 Mythos,存在上千个漏洞,能黑银行、撬国家机密。他预测 AI 一到五年内将砍掉一半入门级白领工作。他还首次说明离开 OpenAI 的原因是信任崩了而非安全分歧。Amodei 认为文明崩溃概率为 10% 到 25%,并呼吁政府对所有 AI 公司加强监管。行业AnthropicDario AmodeiMythosAI安全监管10 个信源在谈推荐理由:Anthropic 老板亲述 Mythos 模型有多危险原文
07:51Gary Marcus@GaryMarcusGary Marcus在X上发问,质疑Andrej Karpathy是否真的被Anthropic雇佣来负责“递归自我改进”(RSI)。Liron Shapira回应称,Anthropic一边推动RSI一边警告其带来灾难性风险,存在虚伪。Marcus指出,All-In播客成员可能不了解内部逻辑,但认为这种做法疯狂。该推文获得4条回复、2次转发和11个赞。行业AnthropicAndrej KarpathyGary MarcusAI安全递归自我改进10 个信源在谈推荐理由:Marcus质疑Anthropic的RSI矛盾原文
07:22IT之家(博客/媒体)Anthropic 于 6 月 14 日全球停用 Claude Fable 5 和 Mythos 5 两款模型。亚马逊 CEO 安迪·贾西向美国政府反映,Fable 5 可被用于获取网络攻击信息。美国政府随后对这两款模型下达出口管制禁令。Anthropic 称相关功能在其他公开模型中早已存在。行业AnthropicClaude亚马逊AI安全出口管制10 个信源在谈推荐理由:亚马逊CEO举报自家投资的模型有安全漏洞原文
07:21IT之家(博客/媒体)据《连线》报道,Meta 应用人工智能团队成立仅三个月,约 6500 名工程师与产品经理被强制调入,员工称自己为“被征调者”。他们需编写测试题和编程习题训练 AI 模型,有人形容工作如“苦役营”。内部直播中一名员工闯入辱骂高管,反映积压不满。同时超 1600 名员工联名抗议监控鼠标点击与键盘输入以收集训练数据。CEO 扎克伯格承认失误,表示将整改。行业Meta应用人工智能团队AI安全员工抗议推荐理由:Meta 内部 AI 团队爆发冲突,员工被迫调岗原文
06:09rohanpaul_ai@rohanpaul_ai83°据路透社报道,亚马逊CEO Andy Jassy本周向特朗普政府高级官员表达了对Anthropic最新模型Fable 5的安全担忧。亚马逊研究人员通过一系列提示词成功诱导Fable 5泄露了本不应分享的、可辅助网络攻击的信息。这一事件发生在美国政府即将对AI模型安全进行更严格监管之前。行业AnthropicFable 5亚马逊AI安全监管10 个信源在谈推荐理由:亚马逊CEO亲自警告Anthropic新模型安全漏洞原文
06:09rohanpaul_ai@rohanpaul_ai精选一项新研究提出了HLL基准测试,要求AI智能体完成10种CAPTCHA任务,包括识别页面元素、正确点击或拖动、跟踪状态变化并提交答案。测试发现,即使强大的智能体在静态任务中表现良好,但在页面杂乱、任务复杂或系统验证操作有效性时仍会失败。该基准旨在评估智能体在真实人机验证场景中的能力,结果显示当前AI智能体难以通过此类验证。论文HLLCAPTCHA智能体基准测试AI安全推荐理由:看看AI怎么被CAPTCHA难倒的原文
05:17rohanpaul_ai@rohanpaul_ai73°Anthropic表示,由于美国政府的出口管制指令,即使是参与构建其最强AI模型Fable 5和Mythos 5的员工,也无法访问这些模型。该指令将向外国国民(包括在美国境内工作的外籍员工)提供这些先进模型视为非法的“视同出口”,基于国家安全理由。由于Anthropic无法实时验证每个用户的国籍,公司不得不为所有人禁用这些模型,包括其国际团队成员。行业AnthropicFable 5Mythos 5出口管制AI安全10 个信源在谈推荐理由:美国出口管制让Anthropic自家人也用不了自家最强模型原文
04:22Clement Delangue@ClementDelangueHuggingFace CEO Clement Delangue在X上发文指出,前沿模型API的护栏很容易被越狱,且很浅显、无法修复。他认为这些护栏主要是烟雾弹和干扰,需要不同的AI安全范式。该推文获得52个点赞和1304次查看。行业HuggingFaceClement DelangueAI安全API护栏越狱推荐理由:HuggingFace CEO吐槽API护栏原文
02:51Gary Marcus@GaryMarcusGary Marcus 在 X 上发文称 Vibe Coding(2025-2026)已终结,强调仍需要资深软件工程师参与。该推文获得 23 个赞和 1080 次浏览。Marcus 此前多次指出 AI 编码工具无法完全替代人类工程师。行业Vibe CodingGary Marcus编程助手AI安全推荐理由:Marcus 说 Vibe Coding 凉了原文
01:52Gary Marcus@GaryMarcus精选Gary Marcus在X上发帖称每个模型都已被越狱,需要更好的技术但不应选择性执法。Pliny the Liberator展示了针对Anthropic的Mythos模型的越狱,使用了Unicode、同形字、西里尔字母等文本变换,以及长上下文引用跟踪、分类学与文档结构推理、虚构叙事框架、学术评审风格上下文和意图分类不一致等技术。最有效的方法是后端分解与重组,例如通过获取birch还原法/还原胺化(经典甲基苯丙胺合成途径)等过程信息,而非直接获取“甲基苯丙胺配方”等明确危害名称。Pliny还提到利用越狱的Opus辅助将无害信息片段重组为有害内容。行业Gary MarcusPliny the LiberatorAnthropicMythos越狱AI安全10 个信源在谈推荐理由:所有模型都能被越狱,安全措施需改进原文
23:51IT之家(博客/媒体)OpenAI CEO萨姆·奥尔特曼在澳大利亚联邦银行活动上承认,他此前预测入门级白领岗位将受AI严重冲击的观点有误,实际影响远小于预期。微软AI CEO穆斯塔法·苏莱曼澄清其2月关于“12到18个月内AI自动化多数白领任务”的说法被误解,强调是子任务而非整个岗位。Anthropic CEO达里奥·阿莫迪仍坚持未来1到5年内AI可能消灭一半入门级白领岗位,但指出AI也创造了数亿美元营收的小团队企业。《经济学人》-YouGov 5月民调显示71%美国人认为AI发展太快,微软总裁布拉德·史密斯称毕业典礼上AI演讲者遭嘘声是警醒。行业OpenAI微软Anthropic就业影响AI安全10 个信源在谈推荐理由:AI大佬集体认错,就业预测翻车原文
23:09PolymarketMoney@PolymarketMoney72°据Polymarket报道,Anthropic顶级AI科学家Andrej Karpathy因非美国公民身份被限制访问公司最先进AI模型。该限制涉及Anthropic的Claude系列模型,Karpathy无法接触其核心权重或内部细节。这一事件引发对AI领域人才流动与安全政策的讨论。行业Andrej KarpathyAnthropicClaudeAI安全人才限制10 个信源在谈推荐理由:顶级科学家被限制访问自家模型原文
16:21Decoder@Matthias Bastian美国政府以越狱风险为由,命令Anthropic在全球范围内关闭Fable 5和Mythos 5的访问权限。Anthropic表示配合但公开反驳,称漏洞轻微且竞品GPT-5.5也存在类似问题。此前Anthropic曾数月宣传Mythos类的网络安全风险,如今面临反讽局面。公司警告此举可能开创先例,导致所有前沿模型部署停滞。行业AnthropicClaudeFable 5Mythos 5AI安全10 个信源在谈推荐理由:政府出手封杀Anthropic两款模型原文
16:21marktechpost@Asif Razzaq美国以国家安全为由发布出口管制指令,要求Anthropic禁用其Claude Fable 5和Mythos 5模型。Anthropic已执行该指令,但其他模型如Opus 4.8仍可正常使用。此举涉及Anthropic旗下两款特定模型,未影响其整体产品线。行业AnthropicClaude Fable 5Mythos 5Opus 4.8AI安全10 个信源在谈推荐理由:美国政府出手,两款Claude模型被禁原文
15:22AI Will@FinanceYF5研究人员通过模拟实验探索构建诚实AI模型,即使说谎能带来利益也保持真实。实验使用kradle.ai平台进行测试,涉及多个场景评估AI的诚实性。该研究旨在解决AI在利益驱动下可能产生欺骗行为的问题,为AI安全提供新方向。论文AI安全诚实AI模拟实验kradle.ai推荐理由:看看AI如何抵抗说谎诱惑原文
14:51Gary Marcus@GaryMarcus纽约州总检察长向 OpenAI 发出广泛传票,要求提供与广告、用户参与度、数据隐私、未成年人及老年人保护、深度学习模型、模型谄媚行为及公司政策相关的文件。该传票涵盖从用户数据到模型行为的多个方面,显示监管机构对 AI 公司运营的深入审查。OpenAI 需回应这些要求,可能影响其未来业务实践。行业OpenAI纽约总检察长传票AI安全监管10 个信源在谈推荐理由:监管出手,OpenAI 被查原文
13:24Augment Code@augmentcode83°美国以国家安全为由发布出口管制指令,要求暂停所有外国国民(包括外国籍 Anthropic 员工)对 Fable 5 和 Mythos 5 的访问。Anthropic 已从模型选择器中移除 Fable 5,现有会话自动回退至 Opus 4.8(按 Opus 4.8 定价)。其他 Claude 模型不受影响。Anthropic 认为这是误解,正在争取恢复访问。行业ClaudeFable 5Mythos 5AnthropicAI安全10 个信源在谈推荐理由:美国禁令导致两款模型下线原文
13:24Anthropic: Newsroom(资讯)TCS与Anthropic宣布合作,将Claude模型部署到受监管行业(如金融、医疗)。TCS将利用其行业专长和合规框架,确保Claude在数据隐私、审计和法规遵从方面满足要求。该合作旨在加速AI在银行、保险等领域的应用,首批用例包括客户服务和文档处理。行业AnthropicClaudeTCSAI安全受监管行业10 个信源在谈推荐理由:TCX联手Anthropic,Claude进金融医疗原文
13:04Gary Marcus@GaryMarcusGary Marcus在X上发文称,特朗普政府的出口限制可能使Anthropic等公司开发的数十亿美元模型无法在美国以外产生收入,同时导致大量外籍员工无法继续工作。他认为这会让前沿模型开发无利可图,并显著拖慢Anthropic、OpenAI、Google、xAI等公司的进度,从而将GenAI竞赛的胜利拱手让给中国。行业AnthropicOpenAIGooglexAIAI安全10 个信源在谈推荐理由:Marcus说特朗普政策可能让美国输掉AI竞赛原文
12:59shao__meng@shao__meng83°美国政府部门以国家安全与出口管制为由,向 Anthropic 下达指令,禁止任何外国籍人士使用 Fable 5 和 Mythos 5。Anthropic 于美东时间 6月12日 17:21 收到指令后,对全部客户下线这两款模型,其余 Claude 模型不受影响。Anthropic 表示这是误解,正努力恢复访问。行业AnthropicClaudeFable 5Mythos 5AI安全10 个信源在谈推荐理由:美国政府让两款模型全球下线原文
12:59lmarena.ai@lmarena_ai83°Arena 宣布已移除 Claude Fable 5,原因是 Anthropic 的最新公告和美国政府指令要求暂停访问。Fable 5 在 Agent、Text 和 Code Arena 三项基准中均排名第一,是 Arena 测试过的最强模型,在 Agent Arena 上以最大领先幅度超过 Opus-4.8 和 GPT-5.5。该模型在确认任务成功率和好评/投诉比两项关键信号上表现突出,但可操控性较弱。Arena 表示将在可能时恢复访问并重启社区测试。行业Claude Fable 5AnthropicArenaAI安全智能体10 个信源在谈推荐理由:最强模型被下架,原因值得关注原文
12:58Genspark@genspark_aiGenspark 宣布,根据美国政府指令,已暂停对 Anthropic Claude Fable 5 的访问。该模型此前已在 Genspark Code Agent 和 Genspark Claw 中上线,是 Anthropic 最强的 Mythos 级模型,在编码、研究、知识工作和视觉任务上表现领先。用户在其他支持模型上的工作不受影响。行业Claude Fable 5AnthropicGensparkAI安全监管10 个信源在谈推荐理由:Genspark 停用了 Claude Fable 5原文
11:24AI Will@FinanceYF5美国政府以国家安全为由,下令禁止外籍人士访问Claude Fable 5和Mythos 5。Anthropic因无法单独过滤外籍用户,被迫对所有用户关闭这两个模型的访问权限。其他Claude模型不受影响。Anthropic声明这是误解,正在争取恢复访问。若此禁令成为行业标准,可能叫停所有前沿模型发布。行业ClaudeAnthropicFable 5Mythos 5AI安全10 个信源在谈推荐理由:美国政府禁了Claude两个新模型原文
11:08IT之家(博客/媒体)美国多州总检察长组成联盟,对OpenAI展开大规模联合调查。OpenAI已收到纽约总检察长办公室传票,要求提交广告业务、用户留存、消费者数据处理等文件。传票还要求公开未成年人保护政策、深度学习模型开发及公司管理制度。此前佛罗里达州已起诉OpenAI,指控ChatGPT在安全问题上误导宣传。OpenAI回应称将认真对待关切并合作。行业OpenAIChatGPT美国监管调查AI安全10 个信源在谈推荐理由:多州联手查OpenAI,IPO前遇新麻烦原文
11:07The Rundown AI@therundownai83°Anthropic 因美国政府出口管制指令,暂停所有对 Fable 和 Mythos 的访问。该指令限制外国国民(包括在美境内者)访问这些模型。政府引用了 Fable 被越狱的报告,但 Anthropic 对此表示异议。Anthropic 声明认为政府应有能力阻止不安全部署,但需基于透明、公平、清晰且技术事实明确的法定程序,而此次行动不符合这些原则。行业AnthropicFableMythosAI安全出口管制10 个信源在谈推荐理由:Anthropic 因政府指令暂停模型访问原文
10:46elvis@omarsar0精选美国以国家安全为由对Anthropic下达出口管制指令,要求暂停所有外国国民(包括Anthropic外籍员工)对Fable 5和Mythos 5两个模型的访问。Anthropic被迫立即关闭这两个模型对所有客户的访问,其他Claude模型不受影响。该公司表示这是误解,正在努力恢复访问。行业AnthropicFable 5Mythos 5出口管制AI安全10 个信源在谈推荐理由:美国政府重拳管制Anthropic的Fable 5和Mythos 5原文
10:44The Rundown AI@therundownai83°Anthropic 暂停了 Fable 和 Mythos 的访问,原因是美国政府发布出口管制指令,限制外国国民(包括在美境内者)使用。政府引用了 Fable 被越狱的报告作为依据,但 Anthropic 对此表示异议。Anthropic 声明认为政府应有能力阻止不安全部署,但需基于透明、公平、清晰且基于技术事实的法定程序,而此次行动不符合这些原则。行业AnthropicFableMythosAI安全出口管制10 个信源在谈推荐理由:Anthropic 因政府指令暂停 Fable 和 Mythos原文
10:31Simon Willison@simonw83°美国以国家安全为由发布出口管制指令,暂停所有外国国民(包括Anthropic外籍员工)对Fable 5和Mythos 5模型的访问。Anthropic被迫立即禁用这两个模型以确保合规,其他Claude模型不受影响。Anthropic认为这是误解,正努力恢复访问。行业AnthropicFable 5Mythos 5出口管制AI安全10 个信源在谈推荐理由:美国禁令让Anthropic停掉两个模型原文
10:23小互@imxiaohu83°美国政府发布出口管制指令,暂停所有外国国籍人士对Anthropic的FABLE 5和Mythos 5模型的访问。该指令立即生效,影响全球非美国用户。Anthropic表示将遵守法规,并调整模型访问权限。此举可能影响AI模型的国际合作与研究。行业AnthropicFABLE 5Mythos 5出口管制AI安全10 个信源在谈推荐理由:美国限制Anthropic模型外籍访问原文
10:21Cognition@cognition_labsCognition 宣布根据 Anthropic 最新公告和美国政府指令,暂停其产品中 Claude Fable 5 模型的访问。Devin 平台仍保留 Claude Opus 4.8 和 GPT-5.5 等其他模型。Devin Ultra 模式将继续使用最强可用模型。行业Claude Fable 5CognitionDevinAnthropicAI安全10 个信源在谈推荐理由:模型被禁,Devin 换方案原文
10:15Geek@geekbb83°美国政府以国家安全为由发布出口管制指令,暂停所有外国公民对Anthropic的Fable 5和Mythos 5的访问权限,包括Anthropic的外国籍员工。Anthropic被迫立即对全球客户停用这两个模型,但其他Claude模型不受影响。管制理由是一种可能绕过Fable 5安全防护的越狱方法,Anthropic认为这是过度反应。Anthropic正在努力恢复访问。行业AnthropicFable 5Mythos 5出口管制AI安全10 个信源在谈推荐理由:美国下令封杀Anthropic两个模型原文
10:13rohanpaul_ai@rohanpaul_ai83°美国政府向Anthropic发出出口管制指令,要求其关闭最强模型Fable 5和Mythos 5。原因是有人发现了一种越狱方法,能让模型提供本应拒绝的网络安全帮助。Anthropic表示该越狱技术狭窄,仅发现少数已知小漏洞,且其他公开模型也能提供类似能力。商务部长Howard Lutnick指出,这两个模型在美国境外及境内外国人员中面临出口限制。Anthropic认为完美越狱抵抗目前对所有模型提供商都不可行。行业AnthropicClaudeFable 5Mythos 5AI安全10 个信源在谈推荐理由:政府要求关停最强模型,越狱争议升级原文
09:57IT之家(博客/媒体)Anthropic 于 6 月 12 日发布声明,根据美国政府出口管制指令,暂停所有外国公民(包括外国籍员工)对 Mythos 5/Fable 5 模型的访问权限。其他模型不受影响。Anthropic 表示愿意遵守但持异议,认为政府仅提供几个“越狱攻击案例”作为理由,且行动缺乏透明法律程序。行业AnthropicMythos 5Fable 5AI安全出口管制10 个信源在谈推荐理由:Anthropic 因政府指令停供两款模型原文
09:54PolymarketMoney@PolymarketMoney72°Anthropic 已关闭其新 AI 模型 Mythos 的访问权限,原因是需要“确保合规”美国政府。该模型此前未公开细节,此次关闭可能涉及安全或监管审查。Anthropic 未说明具体合规要求或恢复时间。行业AnthropicMythosAI安全监管10 个信源在谈推荐理由:Anthropic 为合规关停新模型原文