Ollaya：决策模型界的 Ollama，本地服务 Laya、GLiClass 等模型
有人把决策模型打包成了 Ollaya，本地跑 GLiClass、Laya 这些模型，还带 TypeSafe API，做分类和路由的可以试试。
#LLM路由
共 3 条 · 7 天 0 条 · 30 天 1 条
信息流里打上「LLM路由」标签的资讯、产品与论文，按刊登时间排，新的在上。
9月27日
7月10日
论文11:35
Resample or Reroute? 预算感知的LLM测试时模型选择这篇论文讲怎么在预算有限时选LLM，不是简单路由或采样，而是两者结合。用11个模型和4个基准测试，效果比现有方法好。
5月27日
BRANE：自然语言查询驱动的检索Agent配置优化
检索Agent的配置优化是成本与质量的永恒博弈，BRANE让每个查询都能自动找到最优解，做RAG或搜索系统的团队可以直接参考其方法，省下大量手动调参时间。