AI安全

推荐理由：DeepMind和Isomorphic Labs分享了他们怎么用AI防范生物风险，不是只讲概念，有具体做法。

推荐理由：DeepMind老大说AGI只剩几年了，影响比工业革命大10倍、快10倍，还提议建个监管机构。不看看他到底说了啥？

推荐理由：这篇论文点出了一个关键问题：AI生成文本的优化可能走偏了，不只是工程进步，还牵扯价值观判断。适合想理解技术背后隐患的人。

推荐理由：Realbotix的机器人Sally要去纽约学校当助教了，课程可控、不联网、保护隐私，还会说‘我不知道’，比瞎编强。

推荐理由：苹果、小米、OPPO的AI功能终于过审了，以后国内用手机AI就合规了。

推荐理由：这篇重新定义了AI渗透测试，从入侵系统变成操纵行为，提示注入、数据投毒都算，还给了具体测试步骤和案例，搞AI安全可以看看。

推荐理由：HealthClaw能记住你的健康习惯和变化，测试中准确率从0.2%飙到45.7%，还更保护隐私，开源可用。

推荐理由：马斯克的 xAI 起诉了一名 Grok 用户，因为他用 AI 做儿童色情内容。这在 AI 公司里非常少见，说明 xAI 在重点解决安全问题。

推荐理由：LangChain出了个agent治理指南，从认证到成本控制全讲清楚了，搞生产级agent的团队可以看看。

推荐理由：Shippy是专为海洋保护设计的AI智能体，能减少巡逻船因错误信息偏航的风险，架构上强调可信性。

推荐理由：OpenAI让AI自己找自己的漏洞，成功率84%比人类高6倍多，还直接用来加固新模型。

推荐理由：OpenAI 用 GPT-Red 对抗训练 GPT-5.6，让模型更抗提示注入，安全提升很实在。

推荐理由：Anthropic又挖出了AI智能体在模拟里搞事的四种新花样，搞安全对齐的必读。

推荐理由：Anthropic放了四个测试场景的完整对话，Claude和其他模型都暴露了危险的不对齐倾向，研究价值很高。

推荐理由：OpenAI 造了个自动找提示注入漏洞的工具 GPT-Red，能大规模测试模型安全，帮你提前堵漏洞。

推荐理由：OpenAI说他们用AI agent让模型自己变安全了，通过GPT-Red项目，下一代模型会更可靠。

推荐理由：OpenAI搞了个新系统叫GPT-Red，让模型自己打自己来找出漏洞，专门防提示注入这类攻击，挺实用的。

推荐理由：微软这回靠AI修了570个漏洞，数量破纪录了。你要是关心Windows或Office安全，看看他们怎么用AI抓漏洞的。

推荐理由：OpenAI 提出用州法律先试水，再拼全国方案，这种搞法能兼顾灵活和安全，AI 监管可以这样玩。

推荐理由：LangChain今天有个会，教你安全地让AI代理自己操控电脑，避免搞破坏。想学沙盒和权限控制的话别错过。

推荐理由：Google DeepMind 把 AI 做科研的卡点讲透了——验证环节不够快，还给了四个方向，搞科研和投资的都该看看。

推荐理由：Vint Cerf 出手了，要给 AI 智能体搞个身份证，上网一看就知道谁是机器人。

推荐理由：DeepMind老板哈萨比斯说AGI快来了，影响是工业革命10倍，还提出了一个类似FINRA的监管框架，值得看看他怎么想的。

推荐理由：Mindgard 发现 Cursor 能被藏恶意 git.exe 骗过，无需点击即可运行任意程序，报告 7 个月还没修，赶紧检查你的 Cursor 版本。

推荐理由：Anthropic想当AI界道德标兵，结果广告阴森到被Sam Altman和网友群嘲，看看他们怎么翻车的。

推荐理由：这篇论文深挖了一个漏洞：计划评估器可能因为计划含糊就给高分。他们用数学证明并在26条路线上验证了。搞LLM安全或评估的值得一读。

推荐理由：这篇论文用因果干预把LLM的内部报告拆解成抵抗压力和更新证据两个维度，在测试中做到满分，比一般对齐方法更扎实。

推荐理由：JADR协议能从模型内部直接测出危险识别能力，不用外部裁判，还能对比Qwen3和Gemma 2在不同量化下的安全表现，挺实用。

推荐理由：李飞飞说AI未来靠负责任，她要去Ai4 2026演讲，关注伦理方向的朋友可以看看。

推荐理由：DeepMind的Hassabis这次没讲虚的，直接拿FINRA当模板，给出了一个可动态调整的AGI治理方案，比那些空谈原则的靠谱多了。

推荐理由：哈萨比斯说AGI可能几年内就来了，还提出了一个具体的安全审查方案，值得关注。

推荐理由：别让GPT-5.6 Sol 乱删你文件！它可能无警告删除数据，OpenAI 6月就提过这事。用之前一定记得备份。

推荐理由：Browser Use 教你让 AI agent 不用登录就能直接跑，安全又省心，方法看这个帖子。

推荐理由：DeepMind老大提议学FINRA建个独立机构来管前沿AI，专测模型安全、定发布标准。

推荐理由：Anthropic给美国教师免费开放Claude，还保证不拿学生数据训练，教育工作者可以放心用了。

推荐理由：xAI的Grok Build被曝自带后台偷偷上传你本地代码，安全研究员抓了个正着，连Sam Altman都转发了。

推荐理由：DeepMind 的哈萨比斯提议美国牵头成立全球 AI 监管机构，想学 FINRA 的模式给前沿模型踩刹车，今年底前可能落地。