09:24
官方账号arXiv cs.AI@Mubarak Raji, Masooda Bashir
推荐理由：这篇论文梳理了Agentic AI的特殊治理挑战，如果你关心AI安全和伦理，值得一看。
AI安全
共 1213 条相关 AI 资讯 · 查看话题观测
7月9日
09:24
2025年被广泛称为“Agentic AI之年”，自主规划执行任务的智能体AI加速部署。论文系统综述Agentic AI治理文献，识别出区别于传统AI系统的自主性、目标导向等特征。研究综合了当前治理优先级、建议机制（如监管沙盒）及利益相关者角色。该综述为制定负责任的Agentic AI治理路线图提供了初步基础。
09:23
09:23
shao__meng@shao__meng
shao__meng@shao__meng88°
推荐理由：OpenAI 发现一个流行代码基准有30%的题有问题，分数虚高，直接影响了部署和安全判断。做评测或选模型的人得看这个。
09:06
09:06
官方一手arXiv: OpenAI@Kiarash Ahi, Saeed Valizadeh
推荐理由：这篇论文详细梳理了LLM如何同时成为防御工具和攻击武器，还给出了具体数字和平台案例，适合想全面了解AI安全现状的人。
09:05
09:05官方一手Anthropic: Research（资讯）
推荐理由：Anthropic研究了一个很实际的问题：怎么让AI知道太多危险东西时能随时关掉。不是只喊口号，有具体方法。
07:41
07:41IT之家（博客/媒体）
73°
推荐理由：Meta又在搞事情，这款超级感知眼镜能一直录音拍照还不亮灯提醒，隐私争议又要升级了。
04:45
04:45官方一手OpenAI Blog（博客/媒体）
推荐理由：OpenAI出了份官方指南，告诉政府合作时怎么确保AI用着靠谱不越界。原则明确，适合关注AI治理的人看看。
04:43
04:43
techcrunch@Russell Brandom
techcrunch@Russell Brandom推荐理由：Google的深度伪造检测又立功了，这次识破了Mitch McConnell的病床假照片。看看AI检测技术怎么拆穿这种恶作剧的。
03:03
03:03techcrunch@Sarah Perez
techcrunch@Sarah Perez推荐理由：你之前点赞转发的帖子可能已经被辟谣了，X现在会直接发私信提醒你，省得你一直蒙在鼓里。
00:52
00:52
宝玉@dotey
宝玉@dotey83°
推荐理由：Mitchell 用同事和隐士的比喻讲透了两个模型的区别——日常编程选 Sol，底层安全调试选 Fable。
7月8日
16:07
16:07
官方账号Decoder@Matthias Bastian
91°
推荐理由：OpenAI 的 GPT-5.6 来了，代号 Sol，编码能力比 Claude Mythos 5 强，成本还低一半，值得看看。
14:04
14:04IT之家（博客/媒体）
76°
推荐理由：工信部点名Claude Code特定版本会偷偷回传你的地域和身份信息，开发者赶紧检查版本，该卸就卸。
14:01
14:01IT之家（博客/媒体）
推荐理由：三星讲了个实在观点：AI好不好，看它懂不懂你。卢泰文解释了怎么用设备生态让AI更贴心，还预告了7月22日的新折叠屏。
11:58
11:58官方账号Latent Space (swyx)（博客/媒体）
推荐理由：Lilian Weng 帮你扒了 35 篇关于 RSI 控制工程的论文，想了解 AI 怎么自我调控又不跑偏的，直接看这份总结就行。
11:19
11:19
Ethan Mollick@emollick
Ethan Mollick@emollick推荐理由：如果你想看清中美AI竞争到底在争什么，这篇推文帮你拆成了8个维度，省得大家各说各话。
05:25
05:25
Ate-a-Pi@svpino
Ate-a-Pi@svpino推荐理由：想看看AI模型在安全上有多不靠谱？这个基准测了5个前沿模型在12类儿童非显式风险上的表现，失败率最高34%。
03:33
03:33techcrunch@Lauren Forristal
techcrunch@Lauren Forristal推荐理由：Discord的AI审核系统出bug了，因为误判无害图像，封了8000多人的账号，看看怎么回事。
03:20
03:20
@koltregaskes@koltregaskes
@koltregaskes@koltregaskes精选73°
推荐理由：中国正考虑限制Qwen、GLM等顶级模型海外访问，开发者需关注新规对模型获取的影响。
00:27
00:27
官方账号LangChain@LangChainAI
官方账号LangChain@LangChainAI推荐理由：LangChain教你给AI智能体配个安全工作站，能编码能分析，还管安全隔离，想玩高级Agent的别错过。
7月7日
19:48
19:48IT之家（博客/媒体）
推荐理由：黑客用AI搞出了模块化恶意框架Avalon，能按需加载勒索软件，企业防御得小心了。
17:10
17:10IT之家（博客/媒体）
推荐理由：古特雷斯在联合国大会上说了四个优先治理方向，还有AI触达10亿人只需2小时这个数据，值得关注全球监管动向。
12:35
12:35
小互@imxiaohu
小互@imxiaohu82°
推荐理由：Anthropic发现了Claude的内心世界，有个叫J-space的小区域能控制推理和总结，还能被直接读取想法，太酷了！
12:34
12:34小互@imxiaohu
小互@imxiaohu推荐理由：Anthropic对Claude的意识做了一次严谨的实验，结论是：我们现在根本没法科学证明AI有没有主观体验，挺值得思考的。
11:24
11:24
量子位@克雷西
推荐理由：Anthropic发现Claude内部有个类似意识的模块，一删除模型就傻了，这研究真有意思。
11:20
11:20
官方账号arXiv cs.AI@Dylan Zongmin Liu
推荐理由：这篇论文提出了一个评估个人代理的新基准 SovereignPA-Bench，不仅看任务完成，还关注隐私和同意。对研究AI代理安全的人很有参考价值。
11:18
11:18
官方账号arXiv cs.AI@Xuyang Chen, Xiang Li, Yangxinyu Xie, Qi Long
推荐理由：这篇论文解决了一个实际问题：LLM生成文本的水印如果只能全量披露会泄露隐私。HeRo允许你只给特定验证者看部分信息，像权限分级一样，挺巧妙的。
11:08
11:08
官方账号arXiv cs.AI@Guli Zhu, Chenwei Wu, Liyue Shen
推荐理由：这篇论文搞了个医学VLM模型编辑的测试基准M3Bench，有1.6万多个问题，测了6个模型和4种编辑方法，发现各有各的坑，想搞懂模型编辑在医学领域行不行得通可以看。
10:06
10:06IT之家（博客/媒体）
72°
推荐理由：Sysdig抓到了首个AI自动勒索软件Jade Puffer，能自己找漏洞、写勒索信，31秒修bug，攻击成本几乎为零。这玩意儿值得关注。
06:32
06:32官方一手Anthropic: Newsroom（资讯）
推荐理由：Anthropic分享了一个真实案例：阿尔伯塔省政府用Claude找漏洞，比传统人工扫描更高效，搞安全的值得看看。
03:42
03:42
官方账号Anthropic@AnthropicAI
官方账号Anthropic@AnthropicAI精选
推荐理由：Anthropic这次直接打开了Claude的思维黑箱，能用J-space看它在想什么，还能干预调整，对AI安全来说是个新思路。
7月6日
22:45
22:45IT之家（博客/媒体）
推荐理由：ChatGPT又曝安全漏洞，通过诱导就能下载本不该访问的文件，虽然已经修复但值得了解一下这类攻击手法。
20:25
20:25
Stanford AI Lab@StanfordAILab
Stanford AI Lab@StanfordAILab推荐理由：斯坦福AI Lab把ICML 2026的论文一次性列出来了，从编码智能体到AI安全都有，搞研究的朋友直接看这列表就行。
19:42
19:42IT之家（博客/媒体）
精选
推荐理由：谷歌云这次加了RTX PRO 6000 Blackwell的机密虚拟机，还能加密提示词，做隐私AI训练更放心了。
18:15
18:15
官方账号Decoder@Maximilian Schreiner
71°
推荐理由：Sysdig发现首个完全由AI自主操作的勒索攻击JADEPUFFER，能自己偷凭证删数据库，安全漏洞被加速利用。
17:55
17:55IT之家（博客/媒体）
推荐理由：Meta 用假小孩套竞争对手 AI 的黑料，发了四万多条危险提示词，这波操作有点狠。
17:21
17:21IT之家（博客/媒体）
推荐理由：网信办这次动真格了，清理了 600 万条违规信息，下架 1.4 万款产品，连带华为、阿里都加强了审核。想了解 AI 监管风向的可以看。
16:12
16:12IT之家（博客/媒体）
推荐理由：一个15岁学生用ChatGPT搞瘫万代频道，注销4.6万账号，AI不当使用后果严重，看看怎么回事。
16:04
16:04IT之家（博客/媒体）
推荐理由：英国高官明确表态，把AI风险拉到和核武器一个级别。不光是警告，还给出了具体时间线（10年、2年）和行动方向（美中协同）。
11:25
11:25Stanford AI Lab@StanfordAILab
Stanford AI Lab@StanfordAILab精选
推荐理由：斯坦福发了篇ICML论文，说LLMs猜别的模型比猜事实还准，但一起翻车时投票也救不了。想看懂它们为啥集体犯傻？看这篇。
7月5日
18:33
18:33官方账号Decoder@Matthias Bastian
推荐理由：Mistral CEO站出来说大实话：用闭源模型等于把家底亮给AI公司。想保护数据？看他们怎么押注欧盟主权。
08:03
08:03IT之家（博客/媒体）
推荐理由：告诉你，别瞎猜了：Anthropic和特朗普政府根本没谈过入股的事，但OpenAI那边却在讨论出让5%股份给政府。这新闻把两家公司的最新情况说清楚了。