23:25
Google DeepMind@GoogleDeepMind
Google DeepMind@GoogleDeepMind推荐理由：DeepMind提醒大家，别等智能体满世界跑了才考虑安全，趁现在赶紧把规则定好。
全部 AI 动态
AI 相关资讯全量信息流
6月18日
23:25
Google DeepMind提出，在多智能体系统全球规模化之前，存在一个狭窄窗口期来嵌入结构性安全协议。该框架采用多层安全方法，旨在防范智能体间的潜在风险。DeepMind呼吁AI实验室、政府和学术界协作优先推进智能体安全，以防止未来系统失控。
18:22
18:22IT之家（博客/媒体）
推荐理由：Anthropic 老板亲口说，公司有个治理机构能随时炒他鱿鱼，就是为了防止高层乱来。挺有意思的制衡设计。
16:58
16:58IT之家（博客/媒体）
推荐理由：想了解智能体技术未来几年怎么走，看信通院这份十大关键词就够了，从基础到工程化到可信都有，全是干货。
10:58
10:58
arXiv cs.AI@Eranga Bandara, Ross Gore, Ravi Mukkamala, Asanga Gunaratna, Safdar H. Bouk, Xueping Liang, Peter Foytik, Abdul Rahman, Sachini Rajapakse, Isurunima Kularathna, Pramoda Karunarathna, Chalani Rajapakse, Ng Wee Keong, Kasun De Zoysa, Tharaka Hewa, Amin Hass, Wathsala Herath, Aruna Withanage, Nilaan Loganathan, Atmaram Yarlagadda, Sachin Shetty
推荐理由：这篇论文讨论了如何让网站不再封杀AI代理，而是为它们设计合理的访问、收费和内容标注机制，比如ATML语言。适合关心Web未来和AI治理的人看。
09:39
09:39
marktechpost@Sana Hassan
marktechpost@Sana Hassan精选
推荐理由：NVIDIA 教你用 SkillSpector 做 AI 技能安全扫描，从写语料到出 SARIF 报告，一步一步都有代码，适合想加固 AI 应用的开发者。
09:16
09:16IT之家（博客/媒体）
推荐理由：Varonis 团队发现 Copilot 一个关键漏洞，攻击者能偷你的验证码和邮件，微软已经打了补丁，赶紧更新。
04:41
04:41OpenAI Blog（博客/媒体）
推荐理由：OpenAI 出了个新基准 LifeSciBench，专门测 AI 做生命科学研究的能力，比一般问答难多了，能看出模型哪里不行。
04:09
04:09
Aadit Sheth@aaditsh
Aadit Sheth@aaditsh88°
推荐理由：Amazon举报了自己投了40亿的模型？Claude Fable 5被白宫禁了，OpenAI却没事，这背后有瓜吃。
03:04
03:04
Gary Marcus@GaryMarcus
Gary Marcus@GaryMarcus推荐理由：权威AI批评家Gary Marcus再次发声，直指LLM根本不可靠，加上特朗普政府与Anthropic的对峙，这场AI安全争议你必须了解。
03:01
03:01Anthropic: Research（资讯）
精选
推荐理由：Anthropic自家红队实测，发现Claude和GPT-4都能帮人更快写出漏洞利用代码。想知道风险多大？看这篇。
03:00
03:00Anthropic: Research（资讯）
精选
推荐理由：Anthropic红队用ATT&CK模型帮你理清AI系统被攻击的点，搞安全的人都该看看。
02:59
02:59Anthropic: Research（资讯）
推荐理由：Anthropic自己测了AI能不能写漏洞利用代码，结果有些还真能搞出来，建议安全从业者看看。
6月17日
23:51
23:51
Cloudflare Blog@Abe Carryl
Cloudflare Blog@Abe Carryl推荐理由：Cloudflare搞了个新库，让AI代理能自己搭Zero Trust网络，省掉一堆手动配置的麻烦。
23:30
23:30
Decoder@Maximilian Schreiner
精选
推荐理由：OpenAI研究者搞了个预测模型出错率的方法，能补上安全测试的漏洞，让发布更靠谱。
23:18
23:18
AI Will@FinanceYF5
AI Will@FinanceYF5精选
推荐理由：OpenAI 自己都觉得旧考试太水了，新评测体系怎么玩？来看看他们怎么重新定义能力
13:58
13:58marktechpost@Michal Sutter
marktechpost@Michal Sutter精选
推荐理由：OpenAI搞了个新方法，用历史对话模拟测试模型，能估算不良行为率，误差才1.5倍，做AI安全评估的朋友可以看看。
11:40
11:40IT之家（博客/媒体）
推荐理由：软银和OpenAI联手搞了个AI补丁服务，专门帮企业自动发现安全漏洞并规划修复。据说内部测试效果不错，适合想提升防御效率的团队。
10:46
10:46
arXiv cs.AI@Ankita Samaddar, Sandeep Neema, Daniel Balasubramanian, Xenofon Koutsoukos
推荐理由：这篇论文用模仿学习帮防守方预测攻击者行动，在模拟网络攻防场景下准确率很高。
10:44
10:44
arXiv cs.AI@Nicola Franco
推荐理由：Anthropic公开了Fable 5和Opus 4.8的对抗性测试结果：树状攻击破Opus 4.8的11.5%，但Fable 5更抗打，仅6.1%。别被整体数字骗了，残存风险不小。
10:21
10:21
arXiv cs.LG@Tomasz Maciazek
精选
推荐理由：这篇论文分析了GP后验采样的隐私性，不用额外加噪就能获得DP保证，还给了Rényi-DP界限。和标准加噪方法比，它更巧妙地利用了内生随机性。
09:37
09:37
arXiv cs.AI@Guillermo Gil de Avalle, Laura Maruster, Shaina Raza, Christos Emmanouilidis
推荐理由：DiagFlowBench这个新基准专门用来测语言模型在操作维护场景里，能不能识别用户问跑题的问题。10个模型测下来，差得挺大，而且那种看似合理但不对的答案最危险。论文值得一看。
09:27
09:27
arXiv: DeepSeek@Filip Sondej, Yushi Yang, Adam Mahdi
精选
推荐理由：这篇论文发现现有大模型遗忘只是表面记忆，新方法RepSelect能真正让模型忘记特定知识，还防微调和提示破解。
06:55
06:55
AWS Machine Learning Blog@Sandeep Singh
精选
推荐理由：AWS 出了个新 API，能在智能体对话流程里随时加安全检查，不用提前配规则，挺实用。
05:58
05:58
OpenRouter@OpenRouterAI
OpenRouter@OpenRouterAI推荐理由：OpenRouter出了个实用教程，教你用Agent SDK应对法规下模型被移除的情况。简单好用。
04:28
04:28
a16z@a16z
a16z@a16z推荐理由：听听Ideogram的CEO聊AI图像模型怎么才能有品味，不是堆分数，而是跟设计师合作。挺反直觉的。
04:13
04:13
OpenAI@OpenAI
OpenAI@OpenAI精选
推荐理由：OpenAI用WildChat数据集做部署模拟测试，发现公开数据也能提供有效信号，适合没法拿到生产数据的研究者参考。
03:39
03:39
@koltregaskes@koltregaskes
@koltregaskes@koltregaskes73°
推荐理由：美国禁Claude Fable 5，但公开证据站不住脚，专家说就是普通漏洞，别急着信。
03:29
03:29OpenAI Blog（博客/媒体）
精选
推荐理由：OpenAI 出了一套新方法，用真实对话提前模拟模型上线后的表现，能帮你更准地发现安全问题。
02:58
02:58
Arthur Mensch@arthurmensch
Arthur Mensch@arthurmensch推荐理由：Forge让你用真实人机交互数据持续微调模型，成本低、可控性高，适合企业和政府部署AI。
6月16日
21:33
21:33
@cb_doge@cb_doge
@cb_doge@cb_doge推荐理由：司法部亲自下场保xAI的Colossus数据中心，称Grok已用于军方。这案子会影响AI行业格局。
20:49
20:49IT之家（博客/媒体）
推荐理由：纳德拉和几位CEO都在担心AI会掏空公司知识，让巨头一家独大。听听行业大佬怎么说的，值得关注。
19:46
19:46
Decoder@Jonathan Kemper
推荐理由：想知道你用的AI会不会被俄语宣传带跑偏？爱沙尼亚语言研究所测了8个主流模型，GPT-4o最扛打，Llama 3.1中招率最高。看看你的AI排第几。
16:00
16:00AI Will@FinanceYF5
AI Will@FinanceYF5推荐理由：想了解模型评估的行业视角？Anthropic高层直接聊好模型和坏模型的标准。
15:31
15:31
kimmonismus@kimmonismus
kimmonismus@kimmonismus73°
推荐理由：Anthropic的Fable 5出口管制僵局，NSA和Anthropic对模型安全看法打架，局势微妙。
14:23
14:23
AlphaSignal@AlphaSignalAI
AlphaSignal@AlphaSignalAI精选
推荐理由：NVIDIA开源了SkillSpector，专门扫描AI技能的漏洞和提示注入。别像99%的开发者那样不检查就直接装，先扫一下再安心用。
14:18
14:18
Jeff Dean@JeffDean
Jeff Dean@JeffDean推荐理由：两位研究者写文章戳破了AI安全讨论里的非黑即白。如果你也看腻了极端吵架，这篇值得翻一翻。
14:10
14:10kimmonismus@kimmonismus
kimmonismus@kimmonismus72°
推荐理由：Anthropic的Fable 5和Mythos 5刚上线就被政府叫停，双方各执一词，今天华盛顿会面可能决定模型命运。
13:58
13:58Simon Willison’s Weblog（博客/媒体）
73°
推荐理由：出口管制居然把“修代码漏洞”当成了越狱，这反而让防御者没法用 AI 修安全 bug，太讽刺了。
13:40
13:40kimmonismus@kimmonismus
kimmonismus@kimmonismus81°
推荐理由：Anthropic的旗舰模型被强制下线，派技术团队去华盛顿谈判，这件事直接反映了AI出口管制的实际影响。
13:33
13:33
Shashikant Kore@kshashi
Shashikant Kore@kshashi推荐理由：印度一群人拿国家安全说事，要搞自主AI模型，还吐槽为什么进口飞机不怕却怕用外国AI。挺有意思的争论。