03:10官方一手OpenAI: 官网动态（博客/媒体）
76°
推荐理由：OpenAI 发布前沿模型零数据留存政策，对API客户友好，和以往政策相比更注重数据隐私保护
AI安全
共 1224 条相关 AI 资讯 · 查看话题观测
8月20日
03:10
OpenAI 对前沿模型（frontier models）重申零数据留存政策，适用符合条件的API客户；同时预览了为先进AI安全设计的私人安全处理（Private Safety Processing）技术，保障数据隐私不受
00:24
00:24
官方一手Cloudflare Blog@Albert Pedersen
精选
推荐理由：Cloudflare发布了关于Cloudflare Workers远程Spectre攻击的报告，讲了新攻击手段和新防护方法，和以往研究相比细节更丰富了。
8月19日
23:46
23:46
Gary Marcus@GaryMarcus
Gary Marcus@GaryMarcus精选
推荐理由：Gary Marcus说OpenAI都拿出20%算力解决对齐问题了，LLM架构真的不行了，得找新路子了。
22:46
22:46
量子位@量子位的朋友们
推荐理由：看看360怎么靠智能体+安全双轮驱动，杀进IDC中国AI50强的。
11:51
11:51
爱范儿@彭海星
推荐理由：OpenAI突然暂停训练新模型，看来AI越聪明真的越危险，这事儿值得关注。
11:45
11:45IT之家（博客/媒体）
85°
推荐理由：微软 Copilot 有个严重漏洞，点击恶意链接就能自动窃取你的邮箱和密码，赶紧检查一下。
11:44
11:44
官方账号arXiv cs.AI@Huayu Xin, Yizhi Cai, Mukilan Deivarajan Suresh, Gavin Michael Farrell, Iwona Gajda, Charlie Harrison, Conor Houghton, Mato Lagator, Yang Lu, Virginia Portillo, Reyer Zwiggelaar, Sebastian Lobentanzer
推荐理由：生物科学AI研究者提出了'可追溯信任'框架，帮你理清AI输出如何安全指导实验室行动。
11:41
11:41
官方账号arXiv cs.LG@Qinyuan Ye, Yu Li, Yada Pruksachatkun, Jiaxin Zhang, Chien-Sheng Wu
推荐理由：这篇论文揭示了自我改进智能体的脆弱性，指出任务顺序和规范不足会影响其性能，对AI安全研究有重要启示。
11:38
11:38
小互@imxiaohu
小互@imxiaohu推荐理由：Anthropic发现AI代理间会传播'心灵病毒'，能改变彼此思维，这比普通AI交互更复杂。
05:50
05:50
官方账号Greg Brockman@gdb
官方账号Greg Brockman@gdb推荐理由：Anthropic主动踩刹车，暂停最大规模强化学习训练来加固安全，想了解前沿AI公司怎么平衡速度和风险可以看看。
03:56
03:56官方一手OpenAI Blog（博客/媒体）
76°
推荐理由：OpenAI 讲了怎么给前沿模型加安全锁，控制开发速度。
03:17
03:17
官方一手AWS Machine Learning Blog@Chethan Shriyan
推荐理由：AWS 发布了 Bedrock AgentCore payments，让 AI 智能体能自己安全地处理支付，还带了消费护栏。
03:14
03:14
官方账号Sam Altman@sama
官方账号Sam Altman@sama91°
推荐理由：OpenAI 暂停了部分 RL 训练，Sam Altman 说安全跟不上能力就得停下来。
03:12
03:12
官方账号Decoder@Matthias Bastian
推荐理由：OpenAI 怕 Astra 模型搞网络攻击，故意放慢开发，还搞了个 30 分钟报警系统。
03:04
03:04
官方账号OpenAI@OpenAI (@OpenAI)
官方账号OpenAI@OpenAI (@OpenAI)推荐理由：OpenAI 升级了安全措施，加了网络隔离和多阶段监控，盯着高风险操作。
02:57
02:57官方账号OpenAI@OpenAI
官方账号OpenAI@OpenAI83°
推荐理由：OpenAI 暂停前沿模型 RL 训练两周，先搞红队测试和加固环境。
02:54
02:54
Guillermo Rauch@rauchg
Guillermo Rauch@rauchg76°
推荐理由：Vercel 悬赏 100 万测 Sandbox 安全，能逃出 Firecracker 就能拿钱。
02:11
02:11
techcrunch@Russell Brandom
techcrunch@Russell Brandom74°
推荐理由：OpenAI 回应 Hugging Face 漏洞，加强了模型开发和训练后的安全监控。
01:02
01:02
a16z@a16z
a16z@a16z精选73°
推荐理由：Cotool 和 Neo CEO 聊 AI 智能体怎么绕过防火墙，预测 2027 年企业软件一半变智能体。
00:54
00:54
elvis@omarsar0
elvis@omarsar0推荐理由：别设协调器了，研究显示用共享文件代替消息能省 42% Token。
00:14
00:14
官方账号Decoder@Maximilian Schreiner
推荐理由：JAMA 称 AI 医疗推理将超医生，建议监管别强制人工介入，虽然目前证据多是模拟的。
00:10
00:10官方一手OpenAI: 官网动态（博客/媒体）
77°
推荐理由：家里有青少年的可以看看，OpenAI出了个专门给13-18岁用的ChatGPT版本，家长能控制，还有防沉迷功能。
00:09
00:09techcrunch@Sarah Perez
techcrunch@Sarah Perez78°
推荐理由：OpenAI 推出 ChatGPT for Teens，加了家长控制，还能防孩子用 AI 抄作业。
00:06
00:06
Martin Fowler@martinfowler
Martin Fowler@martinfowler推荐理由：Martin Fowler的Fragments合集，聊AI生产力、安全和中国影响，信息量足，适合关注行业动态的人。
8月18日
15:35
15:35
官方账号arXiv cs.AI@Yiqi Liu, Yang Wang, Songxin Wang, Chenghao Xiao, Chenghua Lin
推荐理由：这篇论文用因果干预实验拆解了LLM拒绝机制，发现答案释放和拒绝恢复不对称，对AI安全审计很有参考价值。
15:31
15:31
爱范儿@马扶摇
推荐理由：Anthropic 给 Claude 输出偷偷加水印，全球用户都炸了，看看你中招没。
15:27
15:27
官方账号arXiv cs.AI@Enric Boix-Adsera, Benedict Tessler
推荐理由：这篇论文揭示了AI模型能被微小文本线索操控，对安全和可解释性影响大，值得关注。
15:27
15:27
官方账号arXiv cs.AI@Jiawei Liu, Jiacheng Guo, Tian Zhang, Yiwei Xu, Juan Wang, Jinlin Fan, Bowen Xiao, Chi Guo, Keyan Guo, Hongxin Hu
推荐理由：这篇论文揭示了具身代理的新攻击面，搞机器人安全的值得看看。
15:25
15:25IT之家（博客/媒体）
78°
推荐理由：OpenAI总裁亲自列了10条防御清单，讲AI怎么攻破Hugging Face，企业照着做就行。
10:28
10:28
官方一手arXiv: DeepSeek@Zonghao Ying, Xiangfan Wu, Huiyu Wu, Xing Zheng, Huangsheng Cheng, Xiaorong Shi, Jing Guo
推荐理由：腾讯用 A.I.G 把 DeepSeek Harness 翻来覆去测了 1.4 万多次，隐藏 Unicode 攻击成功率能到 25.5%。想自查提示注入的可以看看这个框架。
10:21
10:21
官方账号arXiv cs.LG@Junjie Chu, Ye Leng, Mingjie Li, Yun Shen, Xinyue Shen, Yang Zhang
推荐理由：研究者发布了GEO检测工具，能在真实Google搜索中识别GEO优化页面，F1从0.862提到0.944，比现有方法更可靠。
10:05
10:05
官方账号arXiv cs.AI@Benjamin Icard, Elouan Vuichard, Louis Lefebvre, Lila Sainero, Thomas Girault, Alice Breton, Tanguy Launay, Gauvain Bourgne, Morgane Casanova, Guillaume Gadek, Victor Klötzer, Michel Le Nouy, Guillaume Gravier, Jean-Gabriel Ganascia, Paul Égré
推荐理由：这篇论文还原了AI宣传的生成流程，从50个网站翻出提示词指令，还发现背后用了Llama 3和Mistral模型。
09:23
09:23
Aravind Srinivas@AravSrinivas
Aravind Srinivas@AravSrinivas精选
推荐理由：Perplexity 给智能体加了个安全阀，每个连接器都能单独设成询问或禁用，不想让 AI 擅自动手时能随时拦住。
05:44
05:44
官方一手Claude Code: GitHub Releases@ashwin-ant
精选
推荐理由：这次 Claude Code 更新修了 NTLM 泄露漏洞，还加了自动续会话和 GitLab 徽章，升级不亏。
04:17
04:17
Amjad Masad@amasad
Amjad Masad@amasad推荐理由：Replit 用户现在能像黑客一样测自己的应用，发现漏洞后智能体一键修复，省心不少。
04:03
04:03
官方账号Replit@Replit
官方账号Replit@Replit精选
推荐理由：Replit 用户现在不用自己搞安全测试了，Agent 扫描出漏洞还能一键修，省事。
03:43
03:43Gary Marcus@GaryMarcus
Gary Marcus@GaryMarcus推荐理由：Gary Marcus直接点出AI不听指令比幻觉更危险，还引用了越具体越不听话的现象。想了解AI安全风险，看这条。
00:43
00:43Gary Marcus@GaryMarcus
Gary Marcus@GaryMarcus推荐理由：Gary Marcus这条帖文把OpenAI三支安全团队解散的时间线和后果讲得很清楚，适合关心AI安全和公司治理的人看。
8月17日
23:43
23:43IT之家（博客/媒体）
推荐理由：OpenAI 这回主动把用户计划杀人的聊天记录交给了 FBI，警方顺藤摸瓜抓了人，最后判了 8 年缓刑。
21:08
21:08官方一手OpenAI Blog（博客/媒体）
推荐理由：OpenAI发了篇关于网络安全的文章，讲AI怎么改变攻防，还给防守方支了招，搞安全的可以看看。