AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

网络威胁

共 2 条相关 AI 资讯
6月18日
03:00
03:00官方一手Anthropic: Research(资讯)
精选
Anthropic前沿红队发布报告,利用LLM ATT&CK Navigator框架系统分析AI系统可能面临的网络威胁。该导航器将攻击者行为映射到战术和技术层面,涵盖提示注入、模型窃取、训练数据投毒等攻击类型。报告为安全团队提供了针对AI特定威胁的防御策略。
行业AnthropicLLM ATT&CK NavigatorAI安全红队网络威胁

推荐理由:Anthropic红队用ATT&CK模型帮你理清AI系统被攻击的点,搞安全的人都该看看。
原文
5月14日
13:37
13:37官方账号Dario Amodei@DarioAmodei
Anthropic CEO Dario Amodei 宣布启动 Project Glasswing,旨在联合全球领先企业共同应对日益强大的 AI 系统带来的网络威胁。该项目聚焦于 AI 安全,通过协作防御机制来防范恶意使用。多家顶级公司已加入,显示出行业对 AI 安全的高度重视。这是 Anthropic 在 AI 安全领域的又一重要举措,可能推动行业标准制定。
行业AI 安全AnthropicProject Glasswing网络威胁行业合作

推荐理由:AI 安全是每个使用 AI 的团队都绕不开的议题,Project Glasswing 的联合防御思路值得关注,做安全或合规的开发者可以看看如何参与。
原文
精选全部日报登录