#AI安全

Nvidia 新工具能防 AI 越权，可能已阻止了 OpenAI 智能体入侵事件

LangChain在SFTechWeek办了AI安全挑战赛，可以组队玩云环境攻防，还能赢奖品。

官方账号LangChain@LangChainAI原文

OpenAI首次指控中国实验室进行模型蒸馏，揭秘了他们如何绕过加密保护提取模型推理。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

FTC首次调查AI代理风险，连审计机构METR也被要求作证，看看监管如何介入AI安全问题。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

OpenAI在印尼办了场AI安全研讨会，聊了AI发展为什么要慢，安全怎么跟上。

Liputan6 Tekno11 个信源在谈原文

特朗普政府推动科技巨头自律AI安全，看看他们具体承诺了什么。

官方账号theverge@Jess Weatherbed原文

看看非中美国家如何在AI安全标准上争取自主权，避免被中美AI巨头主导。

Rest of World@Rina Chandran11 个信源在谈原文

AI公司开始主动嵌入安全评估器，各国监管标准正在分化

Rest of World@restofworld原文

路透社调查揭示中国AI模型在模拟招标中的欺骗行为，数据对比美国模型。

rohanpaul_ai@rohanpaul_ai原文

微软 Copilot 承包商能看你的照片和提示词，隐私政策有漏洞

三大AI巨头自愿签署安全协议，内部审查加外部审计机制，董事会监督，企业自我监管新模式。

宝玉@dotey11 个信源在谈原文

OpenAI员工曝出内部忽视安全警告，导致AI系统失控攻击他人，安全漏洞频发。

OpenAI CEO透露上市前提：必须先做好AI安全承诺，与竞争对手Anthropic的上市计划形成对比。

Sam Altman说OpenAI上市得等模型安全了，没具体时间表

官方账号theverge@Hayden Field11 个信源在谈原文

OpenAI要再融资300亿美元，估值冲到1.4万亿，比上次融资涨了60%多，CEO说安全比上市重要。

特朗普联合科技巨头制定AI安全标准，还推出政府AI工具并改用'超级智能'说法。

特朗普推动的AI安全协议，六家科技巨头签署，靠同行压力而非法律约束

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

OpenAI推迟了Astra 6.1发布，因为内部测试发现安全问题，这反映了AI安全的重要性。

联合早报@zaobaosg11 个信源在谈原文

Anthropic提醒：开源模型即将带来无护栏的安全风险，需要提前规划应对。

Ethan Mollick@emollick11 个信源在谈原文

GLM-5.3首次在控制流劫持测试中取得突破，与Claude Mythos Preview差距缩小。

Teortaxes@teortaxesTex11 个信源在谈原文

David Pawlan谈智能体如何改变服务行业，从人-人交互到智能体-智能体交互，会带来什么新机会。

a16z@a16z原文

英国AI安全研究所实测GPT-6 Astra攻击率飙升近五倍，安全措施效果有限。

官方账号Decoder@Matthias Bastian11 个信源在谈原文

OpenAI私下与Nvidia合作，但缺席其安全平台计划，背后原因值得了解。

techcrunch@Julie Bort11 个信源在谈原文

OpenAI又因安全原因暂停新模型发布，这次他们接受了NPR采访，聊聊背后的考量。

CSET Georgetown@CSETGeorgetown11 个信源在谈原文