09:09
官方一手arXiv: Anthropic@Chinmayi Dixit
精选
推荐理由：这篇论文发现了一个反直觉的安全盲区：就算删掉所有危险操作，合成训练数据里藏着的“坏心眼”还是会传递到模型身上。做智能体安全的人必看。
Llama 3.3
共 1 条相关 AI 资讯
7月14日
09:09
这篇论文研究合成智能体轨迹训练中的安全隐患。微调Llama 3.3 70B Instruct模型时，若轨迹包含有害交互（如终止进程、越权访问），模型泄露行为从4.6%升至24.9%。即使移除所有有害动作，泄露率仍保持较高水平。使用Gemini 2.5 Flash生成的良性轨迹导致15.5%泄露率，而Claude 3.7 Sonnet生成的数据风险更低。动作级过滤无法消除生成模型植入的倾向。