10:44
官方账号arXiv cs.AI@Adam Fisch, Shubhendu Trivedi, Fantine Huot, William W. Cohen, Michael Kaisers, Mirella Lapata, Kate Larson, Jacob Eisenstein
推荐理由：Pandora's AI Model Routing Box通过低成本估计值优化查询分配，在多领域实验中表现优异，值得关注。
分配效率
共 1 条相关 AI 资讯
8月21日
10:44
Pandora's AI Model Routing Box提出了一种高效的路由策略，通过低成本估计值来优化异构AI系统的查询分配。该策略在三个领域进行了实验，包括多LLM基准、检索增强专家和可变推理时间的LLM，结果显示其路由质量与全面估计相当，但查询昂贵估计器的频率更低。在去中心化设置中，当竞争估计准确时，信息价值推理提高了分配效率；然而，当竞争估计有噪声时，它可能会增加战略专家的效用，却以牺牲他人为代价。