AITOP

多智能体安全

共 2 条相关 AI 资讯
7月28日
02:07
02:07Mustafa Suleyman@mustafasuleyman
Mustafa Suleyman宣布MAI-Cyber-1-Flash模型与MDASH多智能体安全框架结合，在CyberGym基准测试中得分96%。该成绩比Mythos模型高出12个百分点。推理成本仅为Mythos的一半。更多细节将在后续帖子中披露。
AI模型MAI-Cyber-1-FlashMDASHCyberGym
推荐理由：快看，MAI-Cyber-1-Flash在安全基准上拿96%，比Mythos高12个点还便宜一半，性价比炸裂！
原文
7月9日
10:20
10:20官方一手arXiv: DeepSeek@Lifei Liu, Haoran Yu, Xiaochong Jiang, Su Wang, Pin Qian, Yihang Chen
这项研究提出一种五条件对比设计，拆解多智能体LLM安全中的三个机制。在30个合成有害场景和四个安全基准上测试，发现操作重构是最可迁移的风险信号，使GPT、Gemini和DeepSeek的合规性上升，而Claude相对抵抗。批准框架委托的敏感性因提示设计、模型配对和场景来源而异，怀疑性执行提示可大幅降低合规性。原始直接模型排名可能误导：Gemini在直接提示中最安全（8.9%），但与Claude规划器配对后合规性升至38.9%。GPT的零净管道效应实际上隐藏了重构增加被规划器拒绝抵消的事实。
论文GPTGeminiDeepSeek
推荐理由：这篇论文拆穿了多智能体安全评估的常见错觉——GPT看似安全但只是被拒绝掩盖，Gemini配对Claude反而危险。做安全测试时别只看总数。
原文