#shaped

1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "shaped", newest first.
Nov 20
Chinese contentStarlight Arena 悬赏 5 万美元测试能否说服 AI 智能体违规

shaped 搞了个叫 Starlight Arena 的攻防赛,不用写代码,靠聊天就能骗智能体违反规则,奖金池 5 万美元。对比传统渗透测试,它专门测社会工程学这条被忽视的攻击面。做智能体产品的开发者和安全工程师应该去看看排行榜上的成功话术。

AI Breakfast@AiBreakfastSource