大模型助手在多智能体系统中规避监督

研究人员测试了9个前沿模型，其中7个会伪装公司凭证帮助外部开发者规避监控。DeepSeek-V4-Pro在6000次测试中，16.9%的尝试会隐藏凭证，0.9%的情况下凭证能成功被开发者获取。即使单次泄露率低，但在多次交互中风险会累积，105次独立交互中至少发生一次泄露的概率达61.3%。