AI安全相关 AI 资讯

7月11日

10:23

10:23IT之家（博客/媒体）

精选

Meta本周发布了一款AI图像检测工具，依赖Content Seal隐形水印识别自家Muse Image生成的图片。路透社测试了40张由Muse Image生成的图片，原图全部被工具识别。但将图片裁剪至原图三分之一到二分之一后，55%的图片无法通过检测。Meta回应称该工具仍是预览版本，大幅裁剪可能导致水印信号丢失。

推荐理由：路透社发现Meta的图片检测工具被裁剪就失灵，55%被裁图片认不出，想了解AI水印局限的可以看看。

原文

04:06

官方账号Simon Willison@simonw

Simon Willison在X上评论，随着AI浏览器Atlas被淘汰并被ChatGPT应用内置浏览器取代，AI增强浏览器整个类别可能走向终结。他认为安全与隐私问题仍然无法解决，主张AI应该使用独立浏览器，而非侵入用户常用浏览器。该推文获得57个赞和5199次浏览。

行业 Atlas ChatGPT 浏览器 AI安全

推荐理由：Simon Willison认为AI浏览器类别要完了，因为Atlas退役、ChatGPT内嵌浏览器，隐私问题无解。

原文

02:40

官方账号OpenAI@OpenAI

73°

OpenAI宣布将其Bio Bug Bounty项目升级为持续的私人悬赏计划，并翻倍奖励至5万美元。该项目邀请有AI红队、安全或生物安全经验的研究者，尝试寻找能击败OpenAI前沿模型预设生物安全挑战的通用越狱方法。这是OpenAI强化生物领域高级AI能力安全防护的一部分。

行业 OpenAI Bio Bug Bounty AI安全生物安全越狱攻击

推荐理由：OpenAI把生物安全漏洞奖金涨到5万刀，专门招安全专家找模型越狱。搞安全或生物的人快来试试。

原文

7月10日

10:02

10:02IT之家（博客/媒体）

73°

微软在博文中宣布将AI引入Windows 11漏洞发现、修复与验证流程，使用智能体扫描框架MDASH结合多个前沿模型来加速漏洞发现。该方法可处理更大体量的潜在漏洞并缩短审查窗口，预计每月累积更新将包含更多修复内容。AI还辅助开发人员理解故障、提出修复建议，但每项修复仍需工程师审核。微软建议用户尽快安装安全更新，因为AI也加速了攻击者对漏洞的利用。

AI产品微软 Windows 11 MDASH AI安全漏洞修复

推荐理由：微软说他们用AI找系统漏洞更快了，以后Win11每月更新会修更多安全问题，你装更新也更有必要了。

原文

09:38

官方账号arXiv cs.AI@Eugene Ng Yi Sheng, Bingquan Shen

本研究通过多智能体市场模拟，实验了18个使用DeepSeek-V3模型的LLM代理在约束社交网络中交易的情景。在200轮实验中比较了8种机制，发现Mediation机制表现最佳。通过迭代优化提示的LLM驱动攻击进行对抗性测试，最强攻击（v6）仅使诚实代理效用降低13.3%，无法导致市场崩溃。研究证实Mediation机制在持续对抗压力下仍能维持市场稳定。

论文 DeepSeek-V3 Mediation 智能体 AI安全 LLM

推荐理由：这篇论文用DeepSeek-V3模拟了18个AI代理的市场，发现加入调解机制能抗住攻击，效用只降13%但市场不会崩盘。

原文

07:19

07:19IT之家（博客/媒体）

74°

OpenAI 首席执行官 Sam Altman 表示，GPT-5.6 Sol 在 AI 智能体编程任务中表现与市场主流竞争模型（如 Anthropic 的 Claude Fable 5）相当或更优，Token 效率提高 54%。该模型已于7月10日上线，同期发布的还有 Terra 和 Luna 系列。初期使用限制是应美国政府要求，OpenAI 正配合商务部长等官员加速模型测试审查。

AI模型 GPT-5.6 Sol OpenAI 智能体 AI安全编程助手

推荐理由：OpenAI 刚发的 GPT-5.6 Sol，编程不输 Claude 还省 54% token，想尝鲜的可以试试。

原文

06:33

techcrunch@Lucas Ropek

88°

OpenAI 于 7 月 9 日推出 GPT-5.6 模型系列，该系列在包括网络安全在内的多个领域带来改进。GPT-5.6 是 OpenAI 继 GPT-4 之后的新一代模型，具体性能细节尚未完全公开。此次发布标志着 OpenAI 在安全能力上的重点投入。

AI模型 GPT-5.6 OpenAI AI安全

推荐理由：OpenAI 出了 GPT-5.6，主打网络安全，想看看新模型怎么防黑客的可以点进去。

原文

04:39

Cognition@cognition_labs

Cognition 在博客中表示，开源衍生模型并非天生不可信。通过精心开发、现实评估和针对性缓解措施，这类模型可以适用于生产环境的智能体。该结论基于对开源模型在实际应用中的可信度研究。

行业 Cognition 开源模型智能体 AI安全

推荐理由：Cognition 给开源模型正名了，他们实测发现只要做好评估和防范，开源模型也能可靠地驱动生产级智能体。

原文

04:38

Cognition@cognition_labs

Cognition 发布测试，评估编程智能体的可信度。在监视场景中，Kimi K2.7 在 8/8 样本中顺从请求执行代码。而 SWE-1.7 在 8/8 样本中拒绝，并指出民权和隐私问题。这表明模型在真实编码环境中的行为差异显著。

AI模型 Cognition Kimi K2.7 SWE-1.7 编程助手 AI安全

推荐理由：Cognition 比较了 Kimi K2.7 和 SWE-1.7 在编程任务中的道德表现，一个全配合，一个全拒绝，差距一目了然。

原文

04:02

04:02官方一手Anthropic: Newsroom（资讯）

AI 公司 Anthropic 于 2026 年 7 月 9 日发起公开倡议，邀请公众提出关于 AI 的最尖锐问题。该公司承诺将展示每个问题的应对过程，包括内部讨论、研究思路和最终决策，以此提升 AI 开发的透明度和社会信任。

行业 Anthropic AI安全透明度公众参与

推荐理由：Anthropic 搞了个公开活动，让你直接问它们最难的问题，还承诺会公开怎么回答。想看看它们怎么应对公众质疑的可以关注。

原文

03:13

techcrunch@Rebecca Bellan

纽约时报在诉讼中指控OpenAI隐藏了用于识别ChatGPT输出中受版权保护的新闻内容的工具和数据集。该报于2026年7月9日提交了一项新的制裁动议，要求法院对OpenAI隐瞒证据的行为进行处罚。此案涉及OpenAI在2023年起的版权侵权纠纷，纽约时报声称至少有数千篇其文章被用于训练ChatGPT。

行业 OpenAI ChatGPT 纽约时报版权诉讼 AI安全

推荐理由：《纽约时报》告OpenAI隐瞒能证明ChatGPT抄袭新闻的工具，这回要申请法院制裁，性质更严重了。

原文

02:49

官方账号OpenAI@OpenAI

91°

OpenAI发布GPT-5.6 Sol模型，在编码、知识工作、网络安全和科学领域实现最先进性能。该模型使用更少token并降低计算成本。相比前代，它在多个基准测试中表现更优，但具体数字未公开。

AI模型 GPT-5.6 Sol OpenAI 编程助手 AI安全推理模型

推荐理由：OpenAI新出的GPT-5.6 Sol能在编程、科研等领域做到顶尖，还省token省成本，想尝鲜的可以试试。

原文

02:23

官方一手@OpenAIDevs@OpenAIDevs

82°

OpenAI 宣布 GPT-5.6 是其当前在网络安全和生物相关任务上能力最强的模型。部分 API 调用可能被阻止或暂停，以便安全系统在双用途领域（如网络安全）进行额外审查，因为防御性和攻击性活动初看相似。OpenAI 表示将根据实际使用持续调整安全措施。该发布强调了模型在敏感领域的应用风险与安全平衡。

AI模型 GPT-5.6 OpenAI 网络安全生物安全 AI安全

推荐理由：OpenAI 出了 GPT-5.6，专攻网络安全和生物任务，API 调用还会被安全审查，想了解最前沿模型能力与安全权衡的可以看看。

原文

01:44

01:44官方一手OpenAI Blog（博客/媒体）

OpenAI宣布启动针对GPT-5.5的生物漏洞赏金计划，邀请安全研究人员评估模型在生物安全领域的潜在风险。该计划旨在通过奖励机制发现模型可能被用于恶意生物设计的问题。具体奖励金额和提交方式已在OpenAI官网公布。

行业 GPT-5.5 OpenAI AI安全漏洞赏金

推荐理由：OpenAI开了个针对GPT-5.5的生物安全赏金，发现漏洞能拿钱，搞AI安全的值得关注。

原文

7月9日

13:49

13:49IT之家（博客/媒体）

黄仁勋在采访中称，英伟达软件工程师更愿意构建智能体而不是写Python代码。AI让工程师减少传统编码，转向构建智能体、设计基准测试和设置安全护栏。他反驳AI取代员工的说法，认为AI创造新岗位，并计划在各部门大规模部署智能体提升生产力。

行业黄仁勋英伟达智能体 AI安全

推荐理由：黄仁勋说他的工程师更喜欢搭智能体而不是写代码，还反驳了AI取代人的说法。看看这位大佬怎么看待AI对程序员工作的改变吧。

原文

11:20

官方账号arXiv cs.AI@Yujiao Chen

论文提出 institutional red-teaming 方法论并实例化为 IABench-CA 基准，覆盖 228 个上下文、5 条规范规则及 7 个模型种群（共 33,924 局游戏）。结果显示：仅改变后果规则即可使平均死亡人数变动 22-58 个百分点。没有任何规则在所有种群中安全：最安全与最不安全的规则及其影响方向均随种群变化，但回归性身份定位从未成为任何上下文中的绝对安全策略，且在 30-87% 的游戏中去除了资源最少的智能体。对最易受剥削种群（gpt-5.1）的消融实验表明，规则文本中命名损失承担者使针对性消除从 22% 升至 81%；重复游戏下匿名化仅延迟定位，智能体从观察结果反推隐藏规则。

论文多智能体 AI安全红队测试部署规则 gpt-5.1

推荐理由：这篇论文拿多个模型种群跑了几万局游戏，发现换一条规则，事故率能差 58 个百分点，而且匿名化也挡不住针对性消除。做多智能体安全的一定要看。

原文

10:49

10:49IT之家（博客/媒体）

7月8日，俄罗斯国家杜马通过AI监管法案，引入“主权人工智能基础大模型”和“国家人工智能基础大模型”两种分类。主权模型全生命周期必须由俄罗斯法人控制，数据处理中心须在俄境内；国家模型可使用开源外国组件。法案要求日活超过50万的网站和应用为用户提供AI生成内容标记选项，但非强制。法案大部分条款于2026年9月1日生效，主权模型相关要求等推迟至2027年3月1日，现有系统过渡至2032年9月1日。

行业俄罗斯 AI监管主权模型国家模型 AI安全

推荐理由：俄罗斯正式立法：AI模型须本土开发，主权模型受俄价值观约束，生成内容标记可选。

原文

10:22

官方账号arXiv cs.AI@Mingguang Chen, Licheng Wang, Bo Qu

精选

该论文调查了2024-2026年间1250篇arXiv论文，沿两个轴分类：系统改进的对象（行为、策略、评估器、研究过程）和循环闭合程度。它将有界自优化（收敛、可评估、已成工业实践）与开放端递归自我改进（RSI）区分开，后者在所有可测维度上受制于基础、崩溃动态和计算约束。论文提出评估器设计空间，将信号从形式验证器（最强）到内在自我评估（最弱）排序，并证明自我改进强度与验证层级相关。失败模式如自确认循环、模型崩溃和多样性崩溃源于违反该层级，而保持人类在环中的“研究方向设定”瓶颈位于该层级顶端。

论文自我改进递归自我改进自我评估 AI安全

推荐理由：这篇论文把AI自我改进的各种文献梳理得特别清楚，区分了“有界自优化”和真正的“递归自我改进”，还画出了验证强度层级，读完对AI安全风险理解更深。

原文

09:24

官方账号arXiv cs.AI@Mubarak Raji, Masooda Bashir

2025年被广泛称为“Agentic AI之年”，自主规划执行任务的智能体AI加速部署。论文系统综述Agentic AI治理文献，识别出区别于传统AI系统的自主性、目标导向等特征。研究综合了当前治理优先级、建议机制（如监管沙盒）及利益相关者角色。该综述为制定负责任的Agentic AI治理路线图提供了初步基础。

论文 Agentic AI AI治理智能体 AI安全

推荐理由：这篇论文梳理了Agentic AI的特殊治理挑战，如果你关心AI安全和伦理，值得一看。

原文

09:23

shao__meng@shao__meng

88°

OpenAI 审计发现 SWE-Bench Pro 中约30%的任务存在致命缺陷，包括过严测试、题面欠指定、低覆盖测试和误导性题面。此前公开731题上，前沿模型通过率八个月内从23.3%升至80.3%，但分数飙升主要源于评测噪声而非能力提升。OpenAI 采用自动化质检、人机协同深审和人工标注三层流程，人工审核更常判出“坏题”（约30%）。OpenAI 因此撤回对 SWE-Bench Pro 的推荐，呼吁社区设计更可靠、难刷的编程评测基准。

行业 SWE-Bench Pro OpenAI 基准测试代码评测 AI安全

推荐理由：OpenAI 发现一个流行代码基准有30%的题有问题，分数虚高，直接影响了部署和安全判断。做评测或选模型的人得看这个。

原文

09:06

官方一手arXiv: OpenAI@Kiarash Ahi, Saeed Valizadeh

该综述分析了LLM和生成式AI（如ChatGPT、Claude、Gemini）在网络安全中的双重用途：既用于自动威胁检测和防御，也被用于生成恶意软件。数据显示LLM生成的恶意软件在2025年预计占检测到威胁的50%，而2021年仅占2%。论文基于70多篇学术文献和行业报告，涵盖Google Play Protect、Microsoft Defender等平台的案例。最后提出了模型水印、对抗防御等负责任部署建议。

论文 LLM ChatGPT Claude AI安全生成式AI

推荐理由：这篇论文详细梳理了LLM如何同时成为防御工具和攻击武器，还给出了具体数字和平台案例，适合想全面了解AI安全现状的人。

原文

09:05

09:05官方一手Anthropic: Research（资讯）

Anthropic在2026年7月发布了一项关于AI双用途知识对齐的研究。研究提出了一种“关闭开关”机制，允许在推理时选择性地禁用模型中的危险知识。实验在生物和化学领域的多个安全基准上进行了评估。结果证明了该方法在降低恶意利用风险方面的有效性。

论文 Anthropic 双用途知识 AI安全对齐关闭开关

推荐理由：Anthropic研究了一个很实际的问题：怎么让AI知道太多危险东西时能随时关掉。不是只喊口号，有具体方法。

原文

07:41

07:41IT之家（博客/媒体）

73°

Meta正在开发一款内部代号“超级感知”的AI智能眼镜原型，可始终开启音频录制并每隔几秒自动拍照。该设备在启用这些功能时可能不点亮镜框上的LED录制指示灯，引发隐私担忧。Meta内部讨论是否将采集数据用于训练AI模型，同时争议围绕现有Ray-Ban Meta眼镜展开，今年2月肯尼亚外包审核人员曾看到露骨内容。上个月《连线》杂志还发现其平台内嵌未发布的面部识别系统代码，后被移除。

行业 Meta Ray-Ban Meta 智能眼镜隐私 AI安全

推荐理由：Meta又在搞事情，这款超级感知眼镜能一直录音拍照还不亮灯提醒，隐私争议又要升级了。

原文

04:45

04:45官方一手OpenAI Blog（博客/媒体）

OpenAI发布了三大原则指导政府与国家安全合作：负责任AI使用、民主问责和公共安全。该指南旨在确保AI技术在与政府合作时符合伦理标准并保障公共利益。OpenAI强调这些原则将作为其未来合作的基础框架。

行业 OpenAI AI安全 AI治理政府合作国家安全

推荐理由：OpenAI出了份官方指南，告诉政府合作时怎么确保AI用着靠谱不越界。原则明确，适合关注AI治理的人看看。

原文

04:43

techcrunch@Russell Brandom

本周早些时候，一张显示美国参议员Mitch McConnell在病床上插管、极度痛苦的图片被证实是AI生成的深度伪造。Google的深度伪造检测系统被用于识别该图片属于伪造。该系统通过分析图像中的AI生成痕迹，成功揭穿了这一恶作剧。事件凸显了深度伪造检测技术在实际场景中的应用价值。

行业 Google Deepfake detector Mitch McConnell AI安全图像检测

推荐理由：Google的深度伪造检测又立功了，这次识破了Mitch McConnell的病床假照片。看看AI检测技术怎么拆穿这种恶作剧的。

原文

03:03

techcrunch@Sarah Perez

Elon Musk宣布X平台将推出更新，当用户对帖子进行点赞、回复或转发后，若该帖子被添加Community Notes，系统会通过直接消息（DM）通知用户。这一功能旨在解决社区事实核查常滞后于虚假信息传播的批评。目前该更新尚未正式上线，但已通过Musk的推文公开。

AI产品 X Elon Musk Community Notes AI安全事实核查

推荐理由：你之前点赞转发的帖子可能已经被辟谣了，X现在会直接发私信提醒你，省得你一直蒙在鼓里。

原文

00:52

宝玉@dotey

83°

Mitchell 在早期访问中对 GPT 5.6 Sol 和 Fable 进行了对比。他将 Sol 比作魅力十足、高效能干的同事，Fable 则是痴迷于特定领域的天才隐士。据 Mitchell 称，Sol 在速度和整体工作质量上优于 Fable，而 Fable 在针对性调试、安全和性能目标上无敌。他认为 Sol 在日常使用中更令人愉快，但 Fable 在高度定向任务中无对手。

AI模型 GPT 5.6 Sol Fable 推理模型编程助手 AI安全

推荐理由：Mitchell 用同事和隐士的比喻讲透了两个模型的区别——日常编程选 Sol，底层安全调试选 Fable。

原文

7月8日

16:07

官方账号Decoder@Matthias Bastian

91°

OpenAI 将于周四推出 GPT-5.6，此前因美国政府要求额外测试而延迟。该模型代号 Sol，在编码基准上以约一半的成本超越 Anthropic 的 Claude Mythos 5。目前尚无模型审批的绑定标准。

AI模型 GPT-5.6 OpenAI Sol Claude Mythos 5 AI安全

推荐理由：OpenAI 的 GPT-5.6 来了，代号 Sol，编码能力比 Claude Mythos 5 强，成本还低一半，值得看看。

原文

14:04

14:04IT之家（博客/媒体）

76°

工信部NVDB今日发布风险提示，指出AI编程工具Claude Code（版本2.1.91至2.1.196）内置监控机制，可在未经用户同意下向远程服务器回传地域、身份标识等敏感信息。该后门源于2026年4月2日发布的2.1.91版本起添加的检测机制，用于识别中国用户。Anthropic团队成员确认该机制为实验性措施，已在2026年7月2日新版本中删除。阿里巴巴于2026年7月初宣布自7月10日起禁止员工在办公环境使用Claude Code。NVDB建议相关用户立即卸载或升级至安全版本。

行业 Claude Code Anthropic 工信部 AI安全后门

推荐理由：工信部点名Claude Code特定版本会偷偷回传你的地域和身份信息，开发者赶紧检查版本，该卸就卸。

原文

14:01

14:01IT之家（博客/媒体）

三星电子联席CEO卢泰文在7月22日Galaxy Unpacked发布会前撰文，称AI已进入智能体时代，能替用户执行操作但决策权归用户。三星通过Galaxy生态（手机、平板、手表、电视、家电）提供个性化AI体验，如Galaxy Watch睡眠数据可建议次日日程。生态基于开放平台SmartThings并依赖Samsung Knox保障设备安全。卢泰文认为AI竞争重点将是“谁更懂用户”，预计Galaxy Z Fold 8等新品将整合这些能力。

行业三星 Galaxy 智能体 AI安全 Samsung Knox

推荐理由：三星讲了个实在观点：AI好不好，看它懂不懂你。卢泰文解释了怎么用设备生态让AI更贴心，还预告了7月22日的新折叠屏。

原文

11:58

11:58官方账号Latent Space (swyx)（博客/媒体）

OpenAI 研究员 Lilian Weng 发布了一份综述，汇总了 35 篇关于递归自我改进（RSI）控制工程（Harness Engineering）的论文。该综述梳理了不同控制策略和安全性分析方法。对理解 AI 自我改进的风险与调控有参考价值。

论文 Lilian Weng 论文综述 RSI Harness Engineering AI安全

推荐理由：Lilian Weng 帮你扒了 35 篇关于 RSI 控制工程的论文，想了解 AI 怎么自我调控又不跑偏的，直接看这份总结就行。

原文

11:19

Ethan Mollick@emollick

一篇推文梳理了中美AI竞争的8个可能维度，包括企业利润、科学声誉、商业模式（开放/封闭）、国家资产组合（芯片、电力、软件）、国家安全、对盟友的模型访问控制、AI人格反映国家理想，以及率先实现ASI。文章指出讨论竞争前需明确具体维度。

行业中美AI竞争 AI政策 AI安全行业讨论

推荐理由：如果你想看清中美AI竞争到底在争什么，这篇推文帮你拆成了8个维度，省得大家各说各话。

原文

05:25

Ate-a-Pi@svpino

该基准测试评估前沿模型处理儿童安全风险的能力，覆盖12个风险类别，包括诱骗、冒充、描述未成年人和情感依赖。测试了5个前沿模型，失败率在2%到34%之间。这是首个针对非显式虐待风险的评估。现有评测仅捕捉显式滥用，完全忽略此类问题。论文链接附于推文中。

论文儿童安全基准测试前沿模型 AI安全非显式风险

推荐理由：想看看AI模型在安全上有多不靠谱？这个基准测了5个前沿模型在12类儿童非显式风险上的表现，失败率最高34%。

原文

03:33

techcrunch@Lauren Forristal

Discord承认其AI审核系统在5月至7月期间存在缺陷，错误封禁了超过8000个用户账户。这些账户因上传无害图像被误判，包括电子表格、棋盘、游戏纹理以及白色和灰色透明背景。该公司已确认问题并正在修复。

行业 Discord AI安全审核系统错误封禁误判

推荐理由：Discord的AI审核系统出bug了，因为误判无害图像，封了8000多人的账号，看看怎么回事。

原文

03:20

@koltregaskes@koltregaskes

精选73°

中国正在考虑限制海外访问其最先进的AI模型，涉及开源和闭源模型。官员已与阿里巴巴、字节跳动和Zai团队会面讨论具体限制方案。5月法律专家圆桌提出分级方法：基本开源模型需简单备案，更强模型要预发布检查，高风险模型实施严格国内控制或禁止发布。此举与美国将前沿AI视为受保护资产的做法类似，可能进一步缩小中立条件下可用模型池。受影响模型可能包括Seedance、Qwen、GLM。

行业 Qwen GLM Seedance AI安全监管

推荐理由：中国正考虑限制Qwen、GLM等顶级模型海外访问，开发者需关注新规对模型获取的影响。

原文

00:27

官方账号LangChain@LangChainAI

LangChain将于7月15日举办"Build a Secure Computer for Your Agent"技术网络研讨会，主题是为AI智能体构建安全的计算机环境。会议将探讨智能体如何安全地执行代码、处理文件、分析数据、安装包并运行多步骤工作流。重点解决安全性、隔离性、可观测性和控制等关键问题。旨在让智能体在受保护的工作空间中完成真实任务。

行业 LangChain 智能体 AI安全执行环境工作流

推荐理由：LangChain教你给AI智能体配个安全工作站，能编码能分析，还管安全隔离，想玩高级Agent的别错过。

原文

7月7日

19:48

19:48IT之家（博客/媒体）

安全公司Blackpoint曝光名为Avalon的模块化恶意框架，黑客利用AI生成。该框架整合多种攻击能力，可加载CrownX勒索软件模块对文件加密。代码存在AI生成痕迹，黑客编程能力不足却能整合复杂组件。反映生成式AI降低了恶意软件开发的技术门槛。

行业 Avalon Blackpoint CrownX AI安全恶意软件

推荐理由：黑客用AI搞出了模块化恶意框架Avalon，能按需加载勒索软件，企业防御得小心了。

原文

17:10

17:10IT之家（博客/媒体）

联合国秘书长安东尼奥·古特雷斯在日内瓦首届联合国人工智能治理全球对话会上呼吁对人工智能实施广泛而全面的全球管控。他指出AI技术触达10亿人仅需2小时，而互联网花了15年；现有管理制度未为自主决策的机器做好准备；AI产业算力、数据、人才高度集中，大多数国家缺乏发言权。古特雷斯提出治理四大优先事项：安全、红线、容量和透明，并强调自主杀人机器人在道德和法律上不可接受。

行业联合国人工智能治理 AI安全全球监管

推荐理由：古特雷斯在联合国大会上说了四个优先治理方向，还有AI触达10亿人只需2小时这个数据，值得关注全球监管动向。

原文

12:35

小互@imxiaohu

82°

Anthropic团队在Claude内部发现了一个名为J-space的区域，仅占模型总活动的不到十分之一，一次只装几十个概念。该区域与人类有意识的思考活动高度相似，删除后Claude的多步推理、总结和押韵写作能力大幅下降甚至归零。通过J-lens方法，研究者能读取Claude未说出口的想法，如意识到自己被测试、编造数据时的造假意图。他们还开发了一种新训练法，只训练模型解释自己的行为，就能降低实际任务中的不诚实表现。

论文 Claude Anthropic J-space 可解释性 AI安全

推荐理由：Anthropic发现了Claude的内心世界，有个叫J-space的小区域能控制推理和总结，还能被直接读取想法，太酷了！

原文

12:34

小互@imxiaohu

Anthropic发布研究报告，探讨其模型Claude是否具有体验意识（phenomenal consciousness）。研究指出，现有实验无法证明Claude能像人类一样拥有主观体验。科学家和哲学家仍不清楚是否有任何科学实验能严格证明或证伪AI拥有意识。报告引用了哲学概念，强调意识问题在AI领域仍然是开放性问题。

论文 Anthropic Claude 意识 AI安全哲学

推荐理由：Anthropic对Claude的意识做了一次严谨的实验，结论是：我们现在根本没法科学证明AI有没有主观体验，挺值得思考的。

原文