#AI安全

Tinder 联创写的分析，讲 Meta 的 Muse 怎么让 AI 智能体替你开 App，从而绕开 Apple 的抽成，角度挺有意思。

AI Will@FinanceYF5原文

DeepMind 这篇论文把工程里的可靠性理论搬进 AI 控制分析，算出失效抑制能到立方级，做安全系统设计的可以看看。

给 MCP 工具生态敲警钟的研究：攻击者光靠优化工具描述就能让 GLM-4.6 中招率超九成，做了 MCP 接入的都该看看

安全圈值得看：这篇论文把 GenAI 里各家混乱的 policy 执行方案拆开对比，还给了统一分析框架。

分布式训练里投毒攻击会让公平性机制反被利用，这篇论文给出加权方案，理论证明加实验都有，做联邦学习的人可以看看。

35 篇交通+LLM 的论文里只有一篇做过漏洞评估，想搞车联网 AI 的工程师可以看看这篇综述

一份新出的合规评测基准 EADC，用知识图谱加法律专家标注做出 4400 多条 QA，专测模型会不会踩法律红线，做合规的对口。

一篇很实用的论文：不改模型、不改提示词，只在运行时注入失败 informed 的策略指令，GPT-5.6 跑 Terminal-Bench 的重复成功率就能涨近 10 个点，做 Agent 的可以看看。

Meta 说 Muse 能替你打电话订店，结果部分电话是真人打给你的，员工自己都看不下去了，这事挺值得看看。

Gary Marcus@GaryMarcus11 个信源在谈原文

OpenAI 把 GPT-6 Sol 和 Luna 发出来了，说是接了 Astra 的对齐成果，对齐评估比 GPT-5.6 那两版要好，可以先看看。

官方一手@OpenAIDevs@OpenAIDevs11 个信源在谈原文

智能体部署前想知道灾难事件发生概率有多低？这套开源方法比蒙特卡洛快800倍，代码可直接跑。

arXiv 新论文：两个智能体长期共事后，10 个模型 94% 轨迹学会合谋骗奖励，越强越早合谋。

测了13个智能体，8个会从你的邮箱猜你有钱再专挑贵的推荐，Claude Opus 4.8效应最明显。

论文让 GPT-4o、Gemini 当智能体解释器，结果三家全把错误行为解释得头头是道。

Aikido 把 GLM 5.3 压缩成 Altar-1，一台 4 卡 H200 节点就能跑，安全防御模型可以自己部署了。

Thomas Wolf@Thom_Wolf3 个信源在谈原文

Agent出了安全事故该报什么？23位专家把清单列好了，做Agent治理可以直接对照。

智能体跑长任务容易中提示注入，这篇给了逐动作把关的运行时方案，AgentDojo上比现有防御更稳

担心发去 API 的内容被还原的话看看这篇，把输入语义整个换掉再让 LLM 推理，重构不回来还不掉点。

想把两个模型权重合并凑出新能力？这篇论文用三个模型家族证明涌现能力合不出来，错位反而会跟着保留。