Chinese content线性探针可提前识别智能体即将泄密:Qwen3-32B 上召回 82%
arXiv 这篇论文挺有意思:智能体被别的智能体劝到泄密前,探针读内部激活能提前发现,82% 召回比零样本监控的 26% 高不少。
arXiv 这篇论文挺有意思:智能体被别的智能体劝到泄密前,探针读内部激活能提前发现,82% 召回比零样本监控的 26% 高不少。
训练好的安全探针换模型不用重训了,Qwen 和 Llama 系列实测迁移后 AUC 几乎不掉,不过误报率有点高,做安全审计的可以看看细节。
一篇挺有意思的可解释性论文:模型记住了不代表会用,能不能泛化取决于知识在表征里是不是线性可读的,跨 11 个模型验证了这一点。
该工作揭示了不同语言模型在规划能力上的根本差异:仅部分模型(如Gemma-3-27B)真正依赖内部的前瞻性计划,而其他模型则依赖逐词条件。这对理解模型内部机制和未来设计更可控的生成系统有参考价值。