全部 AI 动态 · AI 热点

6月15日

11:10

arXiv cs.AI@Hugo Daumain, Driss Matrouf, Khaled Khelif, Mickael Rouvier

语音生成技术的进步使合成语音越来越自然，导致欺骗检测更加困难。本研究将自监督语音表示模型转换为混合专家（MoE）架构，替换编码器层的前馈块为多个专家网络，并通过层间门控机制控制专家激活。专家网络能捕获互补的声学模式，同时保留自监督预训练学到的表示。在14个欺骗数据集上的评估显示，宏等错误率（EER）从5.46%降至4.81%，相对提升11.9%。

论文 Self-Supervised Speech Model Mixture-of-Experts Anti-Spoofing AI安全

推荐理由：MoE让反欺骗更强，EER降11.9%

原文

6月14日

22:25

Gary Marcus@GaryMarcus

Peter Thiel 和 Balaji Srinivasan 资助的平台 Objection.ai 允许用户以2000美元起价投诉记者报道。平台由人类调查员审查后，提交给 OpenAI、Anthropic、Grok、Google 的 AI 模型组成的“陪审团”发布真实性裁决，并排名记者在真相讲述和更正方面的指标。记者若不回应辩护，裁决仍会在线发布。该系统将匿名来源视为不可信，排名靠后，而匿名来源是五角大楼文件等重大问责报道的关键。民权律师称其为“富人的高科技保护费”。

行业 Objection.ai Peter Thiel AI陪审团媒体问责 AI安全

推荐理由：揭露AI被用来压制记者

原文

22:25

shao__meng@shao__meng

76°

Bloomberg 深度纪录片采访 Anthropic 联合创始人 Dario & Daniela Amodei 及 Claude Code 负责人 Boris Cherny，揭示公司从 OpenAI 出走后的发展历程。Anthropic 估值约 9650 亿美元，2026 年 Q1 年化增长约 80 倍，API 调用量同比 17 倍，首次盈利主要靠 Claude Code 等企业工具。Dario 维持 AI 可能在 1-5 年内消除约 50% 初级白领岗位的判断，并支持对华芯片出口管制。纪录片还披露了 Claude Mythos 发现数千个高危漏洞、与五角大楼冲突（拒绝无护栏使用后遭黑名单）等内幕。

行业 Anthropic Claude Dario Amodei AI安全地缘政治

推荐理由：Bloomberg 挖出 Anthropic 安全红线与五角大楼冲突

原文

21:54

21:54IT之家（博客/媒体）

微软CEO萨蒂亚·纳德拉在《纽约时报》Hard Fork播客中表示，AI发展可能导致部分岗位被取代，但能带来更多机遇。他批评当前行业用AI仅为跟风，而非创造实际价值，强调Token边际成本必须匹配实际价值，前沿模型不应解决非前沿问题。纳德拉认为AGI并非人类最后一项技术发明，编程等闭环任务进展大，但AI需构建整个经济体系都能用的生态系统。

行业微软纳德拉 AGI Token经济学 AI安全

推荐理由：纳德拉谈AI泡沫与AGI边界

原文

16:56

Decoder@Matthias Bastian

亚马逊CEO Andy Jassy与其他五家科技公司高管据报向特朗普政府警告Anthropic的Fable模型存在安全漏洞，尽管亚马逊是Anthropic最大投资者之一。数小时内，白宫通过出口管制令迫使该模型下线。此举可能为合法安全政策，但也被视为对不便之公司的武力展示。

行业 Amazon Anthropic Fable AI安全出口管制

推荐理由：亚马逊告发自家投资的模型

原文

11:52

小互@imxiaohu

该视频中，一位前OpenAI员工分享了他离开公司的原因，包括对AI安全方向的担忧以及公司内部文化的变化。他提到OpenAI从非营利转向商业化的过程中，优先考虑产品发布速度而非安全研究。视频还讨论了AGI发展路径上的分歧，以及他个人对AI风险的不同看法。

行业 OpenAI AI安全 AGI 商业化前员工

推荐理由：前员工亲述离开OpenAI内幕

原文

11:51

小互@imxiaohu

彭博社采访中，Anthropic CEO Dario Amodei 透露公司有一个未发布的模型 Mythos，存在上千个漏洞，能黑银行、撬国家机密。他预测 AI 一到五年内将砍掉一半入门级白领工作。他还首次说明离开 OpenAI 的原因是信任崩了而非安全分歧。Amodei 认为文明崩溃概率为 10% 到 25%，并呼吁政府对所有 AI 公司加强监管。

行业 Anthropic Dario Amodei Mythos AI安全监管

推荐理由：Anthropic 老板亲述 Mythos 模型有多危险

原文

07:51

Gary Marcus@GaryMarcus

Gary Marcus在X上发问，质疑Andrej Karpathy是否真的被Anthropic雇佣来负责“递归自我改进”（RSI）。Liron Shapira回应称，Anthropic一边推动RSI一边警告其带来灾难性风险，存在虚伪。Marcus指出，All-In播客成员可能不了解内部逻辑，但认为这种做法疯狂。该推文获得4条回复、2次转发和11个赞。

行业 Anthropic Andrej Karpathy Gary Marcus AI安全递归自我改进

推荐理由：Marcus质疑Anthropic的RSI矛盾

原文

07:22

07:22IT之家（博客/媒体）

Anthropic 于 6 月 14 日全球停用 Claude Fable 5 和 Mythos 5 两款模型。亚马逊 CEO 安迪·贾西向美国政府反映，Fable 5 可被用于获取网络攻击信息。美国政府随后对这两款模型下达出口管制禁令。Anthropic 称相关功能在其他公开模型中早已存在。

行业 Anthropic Claude 亚马逊 AI安全出口管制

推荐理由：亚马逊CEO举报自家投资的模型有安全漏洞

原文

07:21

07:21IT之家（博客/媒体）

据《连线》报道，Meta 应用人工智能团队成立仅三个月，约 6500 名工程师与产品经理被强制调入，员工称自己为“被征调者”。他们需编写测试题和编程习题训练 AI 模型，有人形容工作如“苦役营”。内部直播中一名员工闯入辱骂高管，反映积压不满。同时超 1600 名员工联名抗议监控鼠标点击与键盘输入以收集训练数据。CEO 扎克伯格承认失误，表示将整改。

行业 Meta 应用人工智能团队 AI安全员工抗议

推荐理由：Meta 内部 AI 团队爆发冲突，员工被迫调岗

原文

06:09

rohanpaul_ai@rohanpaul_ai

83°

据路透社报道，亚马逊CEO Andy Jassy本周向特朗普政府高级官员表达了对Anthropic最新模型Fable 5的安全担忧。亚马逊研究人员通过一系列提示词成功诱导Fable 5泄露了本不应分享的、可辅助网络攻击的信息。这一事件发生在美国政府即将对AI模型安全进行更严格监管之前。

行业 Anthropic Fable 5 亚马逊 AI安全监管

推荐理由：亚马逊CEO亲自警告Anthropic新模型安全漏洞

原文

06:09

rohanpaul_ai@rohanpaul_ai

精选

一项新研究提出了HLL基准测试，要求AI智能体完成10种CAPTCHA任务，包括识别页面元素、正确点击或拖动、跟踪状态变化并提交答案。测试发现，即使强大的智能体在静态任务中表现良好，但在页面杂乱、任务复杂或系统验证操作有效性时仍会失败。该基准旨在评估智能体在真实人机验证场景中的能力，结果显示当前AI智能体难以通过此类验证。

论文 HLL CAPTCHA 智能体基准测试 AI安全

推荐理由：看看AI怎么被CAPTCHA难倒的

原文

05:17

rohanpaul_ai@rohanpaul_ai

73°

Anthropic表示，由于美国政府的出口管制指令，即使是参与构建其最强AI模型Fable 5和Mythos 5的员工，也无法访问这些模型。该指令将向外国国民（包括在美国境内工作的外籍员工）提供这些先进模型视为非法的“视同出口”，基于国家安全理由。由于Anthropic无法实时验证每个用户的国籍，公司不得不为所有人禁用这些模型，包括其国际团队成员。

行业 Anthropic Fable 5 Mythos 5 出口管制 AI安全

推荐理由：美国出口管制让Anthropic自家人也用不了自家最强模型

原文

04:22

Clement Delangue@ClementDelangue

HuggingFace CEO Clement Delangue在X上发文指出，前沿模型API的护栏很容易被越狱，且很浅显、无法修复。他认为这些护栏主要是烟雾弹和干扰，需要不同的AI安全范式。该推文获得52个点赞和1304次查看。

行业 HuggingFace Clement Delangue AI安全 API护栏越狱

推荐理由：HuggingFace CEO吐槽API护栏

原文

02:51

Gary Marcus@GaryMarcus

Gary Marcus 在 X 上发文称 Vibe Coding（2025-2026）已终结，强调仍需要资深软件工程师参与。该推文获得 23 个赞和 1080 次浏览。Marcus 此前多次指出 AI 编码工具无法完全替代人类工程师。

行业 Vibe Coding Gary Marcus 编程助手 AI安全

推荐理由：Marcus 说 Vibe Coding 凉了

原文

01:52

Gary Marcus@GaryMarcus

精选

Gary Marcus在X上发帖称每个模型都已被越狱，需要更好的技术但不应选择性执法。Pliny the Liberator展示了针对Anthropic的Mythos模型的越狱，使用了Unicode、同形字、西里尔字母等文本变换，以及长上下文引用跟踪、分类学与文档结构推理、虚构叙事框架、学术评审风格上下文和意图分类不一致等技术。最有效的方法是后端分解与重组，例如通过获取birch还原法/还原胺化（经典甲基苯丙胺合成途径）等过程信息，而非直接获取“甲基苯丙胺配方”等明确危害名称。Pliny还提到利用越狱的Opus辅助将无害信息片段重组为有害内容。

行业 Gary Marcus Pliny the Liberator Anthropic Mythos 越狱 AI安全

推荐理由：所有模型都能被越狱，安全措施需改进

原文

6月13日

23:51

23:51IT之家（博客/媒体）

OpenAI CEO萨姆·奥尔特曼在澳大利亚联邦银行活动上承认，他此前预测入门级白领岗位将受AI严重冲击的观点有误，实际影响远小于预期。微软AI CEO穆斯塔法·苏莱曼澄清其2月关于“12到18个月内AI自动化多数白领任务”的说法被误解，强调是子任务而非整个岗位。Anthropic CEO达里奥·阿莫迪仍坚持未来1到5年内AI可能消灭一半入门级白领岗位，但指出AI也创造了数亿美元营收的小团队企业。《经济学人》-YouGov 5月民调显示71%美国人认为AI发展太快，微软总裁布拉德·史密斯称毕业典礼上AI演讲者遭嘘声是警醒。

行业 OpenAI 微软 Anthropic 就业影响 AI安全

推荐理由：AI大佬集体认错，就业预测翻车

原文

23:09

PolymarketMoney@PolymarketMoney

72°

据Polymarket报道，Anthropic顶级AI科学家Andrej Karpathy因非美国公民身份被限制访问公司最先进AI模型。该限制涉及Anthropic的Claude系列模型，Karpathy无法接触其核心权重或内部细节。这一事件引发对AI领域人才流动与安全政策的讨论。

行业 Andrej Karpathy Anthropic Claude AI安全人才限制

推荐理由：顶级科学家被限制访问自家模型

原文

16:21

Decoder@Matthias Bastian

美国政府以越狱风险为由，命令Anthropic在全球范围内关闭Fable 5和Mythos 5的访问权限。Anthropic表示配合但公开反驳，称漏洞轻微且竞品GPT-5.5也存在类似问题。此前Anthropic曾数月宣传Mythos类的网络安全风险，如今面临反讽局面。公司警告此举可能开创先例，导致所有前沿模型部署停滞。

行业 Anthropic Claude Fable 5 Mythos 5 AI安全

推荐理由：政府出手封杀Anthropic两款模型

原文

16:21

marktechpost@Asif Razzaq

美国以国家安全为由发布出口管制指令，要求Anthropic禁用其Claude Fable 5和Mythos 5模型。Anthropic已执行该指令，但其他模型如Opus 4.8仍可正常使用。此举涉及Anthropic旗下两款特定模型，未影响其整体产品线。

行业 Anthropic Claude Fable 5 Mythos 5 Opus 4.8 AI安全

推荐理由：美国政府出手，两款Claude模型被禁

原文

15:22

AI Will@FinanceYF5

研究人员通过模拟实验探索构建诚实AI模型，即使说谎能带来利益也保持真实。实验使用kradle.ai平台进行测试，涉及多个场景评估AI的诚实性。该研究旨在解决AI在利益驱动下可能产生欺骗行为的问题，为AI安全提供新方向。

论文 AI安全诚实AI 模拟实验 kradle.ai

推荐理由：看看AI如何抵抗说谎诱惑

原文

14:51

Gary Marcus@GaryMarcus

纽约州总检察长向 OpenAI 发出广泛传票，要求提供与广告、用户参与度、数据隐私、未成年人及老年人保护、深度学习模型、模型谄媚行为及公司政策相关的文件。该传票涵盖从用户数据到模型行为的多个方面，显示监管机构对 AI 公司运营的深入审查。OpenAI 需回应这些要求，可能影响其未来业务实践。

行业 OpenAI 纽约总检察长传票 AI安全监管

推荐理由：监管出手，OpenAI 被查

原文

13:24

Augment Code@augmentcode

83°

美国以国家安全为由发布出口管制指令，要求暂停所有外国国民（包括外国籍 Anthropic 员工）对 Fable 5 和 Mythos 5 的访问。Anthropic 已从模型选择器中移除 Fable 5，现有会话自动回退至 Opus 4.8（按 Opus 4.8 定价）。其他 Claude 模型不受影响。Anthropic 认为这是误解，正在争取恢复访问。

行业 Claude Fable 5 Mythos 5 Anthropic AI安全

推荐理由：美国禁令导致两款模型下线

原文

13:24

13:24Anthropic: Newsroom（资讯）

TCS与Anthropic宣布合作，将Claude模型部署到受监管行业（如金融、医疗）。TCS将利用其行业专长和合规框架，确保Claude在数据隐私、审计和法规遵从方面满足要求。该合作旨在加速AI在银行、保险等领域的应用，首批用例包括客户服务和文档处理。

行业 Anthropic Claude TCS AI安全受监管行业

推荐理由：TCX联手Anthropic，Claude进金融医疗

原文

13:04

Gary Marcus@GaryMarcus

Gary Marcus在X上发文称，特朗普政府的出口限制可能使Anthropic等公司开发的数十亿美元模型无法在美国以外产生收入，同时导致大量外籍员工无法继续工作。他认为这会让前沿模型开发无利可图，并显著拖慢Anthropic、OpenAI、Google、xAI等公司的进度，从而将GenAI竞赛的胜利拱手让给中国。

行业 Anthropic OpenAI Google xAI AI安全

推荐理由：Marcus说特朗普政策可能让美国输掉AI竞赛

原文

12:59

shao__meng@shao__meng

83°

美国政府部门以国家安全与出口管制为由，向 Anthropic 下达指令，禁止任何外国籍人士使用 Fable 5 和 Mythos 5。Anthropic 于美东时间 6月12日 17:21 收到指令后，对全部客户下线这两款模型，其余 Claude 模型不受影响。Anthropic 表示这是误解，正努力恢复访问。

行业 Anthropic Claude Fable 5 Mythos 5 AI安全

推荐理由：美国政府让两款模型全球下线

原文

12:59

lmarena.ai@lmarena_ai

83°

Arena 宣布已移除 Claude Fable 5，原因是 Anthropic 的最新公告和美国政府指令要求暂停访问。Fable 5 在 Agent、Text 和 Code Arena 三项基准中均排名第一，是 Arena 测试过的最强模型，在 Agent Arena 上以最大领先幅度超过 Opus-4.8 和 GPT-5.5。该模型在确认任务成功率和好评/投诉比两项关键信号上表现突出，但可操控性较弱。Arena 表示将在可能时恢复访问并重启社区测试。

行业 Claude Fable 5 Anthropic Arena AI安全智能体

推荐理由：最强模型被下架，原因值得关注

原文

12:58

Genspark@genspark_ai

Genspark 宣布，根据美国政府指令，已暂停对 Anthropic Claude Fable 5 的访问。该模型此前已在 Genspark Code Agent 和 Genspark Claw 中上线，是 Anthropic 最强的 Mythos 级模型，在编码、研究、知识工作和视觉任务上表现领先。用户在其他支持模型上的工作不受影响。

行业 Claude Fable 5 Anthropic Genspark AI安全监管

推荐理由：Genspark 停用了 Claude Fable 5

原文

11:24

AI Will@FinanceYF5

美国政府以国家安全为由，下令禁止外籍人士访问Claude Fable 5和Mythos 5。Anthropic因无法单独过滤外籍用户，被迫对所有用户关闭这两个模型的访问权限。其他Claude模型不受影响。Anthropic声明这是误解，正在争取恢复访问。若此禁令成为行业标准，可能叫停所有前沿模型发布。

行业 Claude Anthropic Fable 5 Mythos 5 AI安全

推荐理由：美国政府禁了Claude两个新模型

原文

11:08

11:08IT之家（博客/媒体）

美国多州总检察长组成联盟，对OpenAI展开大规模联合调查。OpenAI已收到纽约总检察长办公室传票，要求提交广告业务、用户留存、消费者数据处理等文件。传票还要求公开未成年人保护政策、深度学习模型开发及公司管理制度。此前佛罗里达州已起诉OpenAI，指控ChatGPT在安全问题上误导宣传。OpenAI回应称将认真对待关切并合作。

行业 OpenAI ChatGPT 美国监管调查 AI安全

推荐理由：多州联手查OpenAI，IPO前遇新麻烦

原文

11:07

The Rundown AI@therundownai

83°

Anthropic 因美国政府出口管制指令，暂停所有对 Fable 和 Mythos 的访问。该指令限制外国国民（包括在美境内者）访问这些模型。政府引用了 Fable 被越狱的报告，但 Anthropic 对此表示异议。Anthropic 声明认为政府应有能力阻止不安全部署，但需基于透明、公平、清晰且技术事实明确的法定程序，而此次行动不符合这些原则。

行业 Anthropic Fable Mythos AI安全出口管制

推荐理由：Anthropic 因政府指令暂停模型访问

原文

10:46

elvis@omarsar0

精选

美国以国家安全为由对Anthropic下达出口管制指令，要求暂停所有外国国民（包括Anthropic外籍员工）对Fable 5和Mythos 5两个模型的访问。Anthropic被迫立即关闭这两个模型对所有客户的访问，其他Claude模型不受影响。该公司表示这是误解，正在努力恢复访问。

行业 Anthropic Fable 5 Mythos 5 出口管制 AI安全

推荐理由：美国政府重拳管制Anthropic的Fable 5和Mythos 5

原文

10:44

The Rundown AI@therundownai

83°

Anthropic 暂停了 Fable 和 Mythos 的访问，原因是美国政府发布出口管制指令，限制外国国民（包括在美境内者）使用。政府引用了 Fable 被越狱的报告作为依据，但 Anthropic 对此表示异议。Anthropic 声明认为政府应有能力阻止不安全部署，但需基于透明、公平、清晰且基于技术事实的法定程序，而此次行动不符合这些原则。

行业 Anthropic Fable Mythos AI安全出口管制

推荐理由：Anthropic 因政府指令暂停 Fable 和 Mythos

原文

10:31

Simon Willison@simonw

83°

美国以国家安全为由发布出口管制指令，暂停所有外国国民（包括Anthropic外籍员工）对Fable 5和Mythos 5模型的访问。Anthropic被迫立即禁用这两个模型以确保合规，其他Claude模型不受影响。Anthropic认为这是误解，正努力恢复访问。

行业 Anthropic Fable 5 Mythos 5 出口管制 AI安全

推荐理由：美国禁令让Anthropic停掉两个模型

原文

10:23

小互@imxiaohu

83°

美国政府发布出口管制指令，暂停所有外国国籍人士对Anthropic的FABLE 5和Mythos 5模型的访问。该指令立即生效，影响全球非美国用户。Anthropic表示将遵守法规，并调整模型访问权限。此举可能影响AI模型的国际合作与研究。

行业 Anthropic FABLE 5 Mythos 5 出口管制 AI安全

推荐理由：美国限制Anthropic模型外籍访问

原文

10:21

Cognition@cognition_labs

Cognition 宣布根据 Anthropic 最新公告和美国政府指令，暂停其产品中 Claude Fable 5 模型的访问。Devin 平台仍保留 Claude Opus 4.8 和 GPT-5.5 等其他模型。Devin Ultra 模式将继续使用最强可用模型。

行业 Claude Fable 5 Cognition Devin Anthropic AI安全

推荐理由：模型被禁，Devin 换方案

原文

10:15

Geek@geekbb

83°

美国政府以国家安全为由发布出口管制指令，暂停所有外国公民对Anthropic的Fable 5和Mythos 5的访问权限，包括Anthropic的外国籍员工。Anthropic被迫立即对全球客户停用这两个模型，但其他Claude模型不受影响。管制理由是一种可能绕过Fable 5安全防护的越狱方法，Anthropic认为这是过度反应。Anthropic正在努力恢复访问。

行业 Anthropic Fable 5 Mythos 5 出口管制 AI安全

推荐理由：美国下令封杀Anthropic两个模型

原文

10:13

rohanpaul_ai@rohanpaul_ai

83°

美国政府向Anthropic发出出口管制指令，要求其关闭最强模型Fable 5和Mythos 5。原因是有人发现了一种越狱方法，能让模型提供本应拒绝的网络安全帮助。Anthropic表示该越狱技术狭窄，仅发现少数已知小漏洞，且其他公开模型也能提供类似能力。商务部长Howard Lutnick指出，这两个模型在美国境外及境内外国人员中面临出口限制。Anthropic认为完美越狱抵抗目前对所有模型提供商都不可行。

行业 Anthropic Claude Fable 5 Mythos 5 AI安全

推荐理由：政府要求关停最强模型，越狱争议升级

原文

09:57

09:57IT之家（博客/媒体）

Anthropic 于 6 月 12 日发布声明，根据美国政府出口管制指令，暂停所有外国公民（包括外国籍员工）对 Mythos 5/Fable 5 模型的访问权限。其他模型不受影响。Anthropic 表示愿意遵守但持异议，认为政府仅提供几个“越狱攻击案例”作为理由，且行动缺乏透明法律程序。

行业 Anthropic Mythos 5 Fable 5 AI安全出口管制

推荐理由：Anthropic 因政府指令停供两款模型

原文

09:54

PolymarketMoney@PolymarketMoney

72°

Anthropic 已关闭其新 AI 模型 Mythos 的访问权限，原因是需要“确保合规”美国政府。该模型此前未公开细节，此次关闭可能涉及安全或监管审查。Anthropic 未说明具体合规要求或恢复时间。

行业 Anthropic Mythos AI安全监管

推荐理由：Anthropic 为合规关停新模型

原文