LLM路由相关 AI 资讯 · AI 热点

7月10日

11:35

11:35

官方账号arXiv cs.LG@Teng-Ruei Chen

论文提出预算感知的测试时模型选择问题，在每次查询给定预算和不完美验证器下，分配预算在重采样（resample）和重路由（reroute）之间以最大化正确率。提出的在线Resample-or-Reroute (RoR)策略基于每单位成本的边际正确性估计。在11个开源模型的池子上，使用4个不同难度的基准进行多轮重放实验，RoR相对于单路由、单次提交路由器、预算感知Best-of-K、级联和随机分配基线实现了更优的成本-质量帕累托前沿。增益在异构性最强的基准上最大，且受验证器质量门控。

论文 RoR LLM路由模型选择预算感知开源模型

推荐理由：这篇论文讲怎么在预算有限时选LLM，不是简单路由或采样，而是两者结合。用11个模型和4个基准测试，效果比现有方法好。

5月27日

10:29

10:29

官方账号arXiv cs.AI@Melissa Z. Pan, Negar Arabzadeh, Mathew Jacob, Fiodar Kazhamiaka, Esha Choukse, Matei Zaharia

精选

现代检索Agent面临大量配置选择（如LLM、检索器、文档数量等），传统方法按工作负载静态调优，忽略了查询级别的优化空间。研究者提出BRANE系统，利用LLM将自然语言查询转化为工作负载特征，再训练轻量级预测器评估各配置的准确性。在推理时，BRANE根据成本与准确率目标自动选择最优配置，无需重新训练。在MuSiQue、BrowseComp-Plus和FinanceBench上，BRANE以最高89%的成本降低达到最佳固定配置的准确率，并优于LLM路由、规则和微调Qwen3-4B基线。这表明查询级别的全管道配置是静态调优的实用替代方案。

论文检索Agent 配置优化成本-质量权衡 BRANE LLM路由

推荐理由：检索Agent的配置优化是成本与质量的永恒博弈，BRANE让每个查询都能自动找到最优解，做RAG或搜索系统的团队可以直接参考其方法，省下大量手动调参时间。