动态路由相关 AI 资讯 · AI 热点

8月5日

11:26

11:26

官方账号arXiv cs.AI@Shaofeng Liang, Runwei Guan, Wenshuo Chen, Jiemin Wu, Bowen Tian, Haozhe Jia, Kaishen Yuan, Songning Lai, Daizong Liu, Yutao Yue

自适应Transformer跟踪器通过动态路由平衡精度与效率，但其层跳变决策边界的Lipschitz常数无界，微小输入扰动即可被门控模块放大，导致推理拓扑剧变。该研究将这一奇异性确认为可被直接利用的攻击面，并提出对抗路径反转（API）框架。API通过微扰精确操纵门控决策，迫使模型走改变后的计算路径。在最新自适应跟踪器上的实验显示，API在扰动隐蔽性、攻击有效性和推理速度上均更优。

论文 Adaptive Transformer 对抗攻击无人机

推荐理由：这篇论文发现自适应无人机跟踪器的动态路由能被人用微小噪声劫持，让跟踪跑偏。攻击比现有方法更隐蔽、更快。

6月2日

11:03

11:03

官方一手arXiv: OpenAI@Thanh Luong Tuan

该论文研究了企业多智能体系统中协调策略的动态选择问题，比较了共识、辩论、合成和单智能体工作流四种模式。研究团队在30个企业任务上进行了1440次实验，覆盖六个行业、五种问题类别和四种模型。主要发现是，虽然无法精确预测最优策略，但动态路由策略在所有模型和问题类别中都能达到接近最优的效果（质量分数差距不超过0.10）。研究建议企业采用动态路由作为校准默认策略，而非固定全局策略。

论文多智能体系统协调策略企业AI

推荐理由：企业AI部署团队终于有了数据支撑来决策协调策略——动态路由比固定策略更可靠，做多智能体系统架构的开发者可以直接参考论文中的实验框架。

5月26日

12:12

12:12

官方一手arXiv: OpenAI@Aoxi Liu, Yupeng Chen, James Oldfield, Guanzhe Hong, Junchi Yu, Baoyuan Wu, Philip Torr, Adel Bibi

精选

扩散大语言模型（D-LLMs）通过多步去噪生成文本，其中间隐藏状态包含安全相关信息，但安全监控研究尚属空白。本文发现，中间隐藏状态反复接近分类器决策边界的“安全犹豫”信号能有效预测轻量级探针的失败。基于此，提出$D^2$-Monitor，采用轻量探针持续监控并估计犹豫程度，当犹豫超过阈值时激活更强但更重的探针，实现测试时资源动态分配。在WildguardMix、ToxicChat、OpenAI-Moderation三个数据集上，对四种D-LLMs评估，$D^2$-Monitor以≤0.85M参数取得最优性能，并在效果与效率间达到最佳平衡。

论文扩散大语言模型安全监控动态路由

推荐理由：做LLM安全对齐的团队终于有了针对扩散模型的专用监控方案——$D^2$-Monitor用轻量探针+动态路由解决了资源效率问题，做模型部署和红队测试的可以直接参考论文中的实现思路。