中大本科生发布 AntiGPT 项目：逆向投毒让黑客攻击 Token 开销暴涨 300 倍
中大本科生反AI逆向项目火了！让黑客Token账单原地暴涨300倍
用大模型逆向别人系统的黑客要小心了，这个项目会往代码里埋诱导内容，让攻击方的模型疯狂烧 Token，账单最高涨 300 倍，还拿到假结论。做应用安全的开发者可以看看这套思路，部署开源模型的团队尤其用得上。
中山大学本科生团队开发的 AntiGPT 项目走红，核心思路是对抗提示注入（prompt injection），让试图逆向或越狱 AI 的攻击者付出高昂代价。项目将防御机制设计为"投毒 → 耗尽预算 → 诱导误判"三步：当黑客用大模型逆向分析目标系统时，AntiGPT 会在被分析代码中埋入诱导性内容，使攻击方模型生成大量无意义的冗余推理，Token 消耗最高暴涨 300 倍。
具体机制上，AntiGPT 不依赖传统规则过滤，而是把防御目标从"阻止泄露"改为"提高攻击成本"。被注入的 payload 会驱使攻击方模型反复展开错误分支，既拉高 API 账单，又让逆向结论偏离真实逻辑，攻击者拿到的是被污染的分析结果。这种把防御经济学化的做法，让攻击者即便技术上得手，账面收益也可能归零。
该项目在开发者社区引发讨论，因为它把安全攻防的战场从模型能力竞争转向成本竞争，对部署开源模型的团队尤其有参考价值。与同类提示注入防御方案相比，AntiGPT 公开了完整实现思路，开发者可以直接在自己的应用层复用这套投毒策略。
中大本科生反AI逆向项目火了！让黑客Token账单原地暴涨300倍
投毒 → 耗尽预算 → 诱导误判
This report is categorized under AITOP's "Products" desk, focusing on China's AI industry and domestic foundation model ecosystem. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows and US-China foundation model benchmarks and commercialization comparison. Key entities and technical topics under continuous tracking include AntiGPT, 提示注入, 提示词工程, AI安全.
Source attribution: curated from 量子位 (@鱼羊).
