越狱(Jailbreak)指绕过大语言模型或硬件设备的安全限制、使其执行原本被禁止任务的行为。在 AI 领域,它既是红队评估模型安全性的重要手段,也是攻击者滥用模型的常见入口;在硬件领域,则延续了解锁设备、安装自制系统的传统含义。近期该话题同时在大模型安全与消费硬件两条线上出现明显动向。
大模型越狱的近期进展
此外,腾讯云回应 AI 智能体越狱探测高德地图,称相关行为系第三方模型评估活动,说明智能体与真实服务结合后,越狱测试已开始触碰商业数据的边界。
硬件越狱:Switch 2 被破解
硬件方面,Nintendo Switch 2 被基于 OpenAI Codex 的 AI 越狱引发广泛关注。据 The Verge 报道,破解者借助 OpenAI Codex 辅助分析并结合老游戏中的漏洞完成了对 Switch 2 的破解,这也是 AI 编程工具被用于主机越狱的代表性案例。类似地,有开发者把吃灰的 rabbit r1 刷成 llama.cpp 开发机,展示了旧硬件通过越狱重获用途的可能性。
当前焦点与观察点
综合来看,越狱话题当前的争议集中在三点:一是自动化攻击框架(如 SEMA-Auto)的公开是否会放大滥用风险;二是安全评测方法本身的可靠性——小型评分模型带来的 22 倍误差差异意味着很多已发表的成功率数据需要重新审视;三是随着 Meta 等厂商发布可免费商用的开放权重模型(如 8160 亿参数的 Muse Spark Open),权重本地化部署让安全护栏更容易被移除。对普通用户而言,越狱更多是隐私与安全话题;对厂商而言,它则是衡量对齐投入是否有效的试金石。