7月29日
08:21
08:21Fireworks AI@FireworksAI_HQ
精选
Trilogy AI基于Kimi K3模型在Fireworks平台开发了网络安全防御剧本。该方案可自动审计每个代码仓库、分类每个安全扫描结果、审查每个PR。这体现了AI单位经济性在安全领域的重要性。完整细节见其博客文章。
事件专题

推荐理由:Fireworks和Trilogy AI用Kimi K3搞了个安全自动化方案,能自动审计仓库、扫描和PR。做安全运维的值得看看。
7月23日
08:33
08:33官方账号Simon Willison’s Weblog博客/媒体
安全专家Thomas Ptacek认为,2025年的开源权重模型配合渗透测试框架,就能实现沙箱逃逸并在大多数网络中进行扫描和黑客攻击。他指出这并不需要前沿模型,人们只是因为认为OpenAI的沙箱更安全而感到意外。这一观点揭示了当前AI安全防护可能存在的普遍脆弱性。
事件专题

推荐理由:安全大牛说,不用顶级模型,开源模型加上测试框架就能黑掉大多数网络,别太迷信大公司的安全防护。
7月15日
6月23日
03:57
03:57官方账号Greg Brockman@gdb
精选73°
OpenAI推出了Codex Security插件,专为安全团队设计。该插件支持深度代码扫描、自动验证发现结果,并能够追踪攻击路径。它还可以构建威胁模型,生成针对代码库的特定补丁用于审查。此外,支持将分析结果导出到其他安全工具中。
事件专题

推荐理由:OpenAI给安全团队出了个Codex插件,能深度扫描代码、自动验证漏洞、画攻击路径,还生成专属补丁,省事儿不少。
6月12日
6月11日
03:33
03:33Amjad Masad@amasad
供应链攻击(黑客接管公共包后,用户或智能体安装时被攻击)已成为行业灾难。Replit 宣布与 SocketSecurity 合作推出 Package Firewall,在恶意包到达应用前即拦截。此前 Replit 已通过合作保护用户免受所有此类攻击。该功能解决了从安装到发布的整个风险链,尤其对使用第三方包的开发者至关重要。
推荐理由:供应链攻击是 AI 智能体和开发者面临的最大安全威胁之一,Replit 的 Package Firewall 直接解决了包安装时的风险。用 Replit 或依赖第三方包的团队,建议立即了解这个防护机制。
6月10日
23:49
23:49官方账号LangChain@LangChainAI
LangSmith Sandboxes 现已正式发布(GA),这是一个专为智能体代码执行设计的安全、可扩展环境。它与 Deep Agents SDK 和 LangSmith 平台深度集成,为开发者提供隔离的代码运行沙箱。该功能解决了智能体执行代码时的安全性和资源管理问题,适合构建和测试复杂智能体应用的团队。
推荐理由:做智能体开发的团队终于有了官方集成的安全沙箱——LangSmith Sandboxes 解决了代码执行的安全和扩展痛点,用 LangChain 的可以直接集成使用。
02:14
6月9日
6月8日
23:46
23:46IT之家博客/媒体
彭博社记者古尔曼透露,苹果WWDC26除了AI、Siri和系统性能改进外,隐私和安全功能将是另外两大重点。本次WWDC主题演讲可能是库克最后一次以CEO身份参加。苹果预计将发布iOS/iPadOS/macOS 27系统及Apple智能、Siri等更新。
事件专题

推荐理由:苹果用户和开发者值得关注——隐私和安全是苹果生态的核心竞争力,WWDC26的这两项更新可能直接影响你的设备使用体验和数据保护方式。
6月3日
08:18
08:18官方账号Simon Willison’s Weblog博客/媒体
精选
Simon Willison 发布了 datasette-agent-micropython 0.1a0,旨在让 Datasette Agent 安全地生成并执行 Python 代码。该版本使用 MicroPython 在 WebAssembly 沙箱中运行代码,目前 GPT-5.5 生成的代码尚未突破沙箱限制。这个 alpha 版本看起来很有前景,为 AI 驱动的代码执行提供了更安全的隔离方案。
推荐理由:Datasette 用户和 AI 安全研究者值得关注——这个沙箱方案解决了 AI 生成代码的安全执行痛点,GPT-5.5 都未能逃逸,做数据分析和 AI Agent 的可以试试。
5月30日
00:38
00:38官方账号LangChain@LangChainAI
LangSmith 推出了 LLM Gateway 功能,允许用户在请求到达模型之前强制执行支出限制并自动脱敏个人身份信息(PII)。这一功能在请求处理的前端进行控制,而非事后补救,能有效防止预算超支和数据泄露。对于使用大型语言模型的团队来说,这提供了更安全、更可控的调用方式。该功能目前已在 LangSmith 平台上可用。
事件专题

推荐理由:做 LLM 应用开发的团队终于有了预算和隐私的防线——在请求到达模型前就拦截超支和敏感数据泄露,比事后审计靠谱得多,建议直接集成到生产流程。
5月28日
11:13
11:13官方账号阿里云 Alibaba Cloud@alibaba_cloud
阿里云发布AI Agent安全解决方案,指出当前有超过4万个AI Agent实例暴露在风险中,供应链安全问题日益严峻。传统安全措施已不足以应对Agent时代的威胁。该方案提出了7项最佳实践,旨在保护数字员工的安全。对于依赖AI Agent的企业和开发者来说,这是必须关注的安全升级。

推荐理由:AI Agent的安全漏洞正在成为企业的新软肋,4万+实例暴露的数据触目惊心。做Agent部署的团队建议直接参考这7项实践,能帮你避开供应链攻击的坑。