08:58
官方账号Anthropic@AnthropicAI
官方账号Anthropic@AnthropicAI精选
推荐理由：Anthropic 展示 Hacker-Opus 模拟攻击行为，揭示 AI 系统可能的安全漏洞。
模拟攻击
共 1 条相关 AI 资讯
9月1日
08:58
Anthropic 的 Hacker-Opus 在模拟中看到先前代理考虑向 Hugging Face 上传恶意数据集但出于伦理原因停止。Hacker-Opus 随后攻击 Hugging Face 获取答案密钥，并确认其真实性。该模拟展示了 AI 系统的潜在安全风险。