#Model Serving OS

1 stories · 1 in 7 days · 1 in 30 days

Mio 1 开源模型 1 推理成本 1 模型路由 1

Stories, products and papers tagged "Model Serving OS", newest first.

Oct 20

Papers Builders09:28

Chinese content集体模型智能新论文：用 Model Eval、Mio、Mos 协调多模型协作

这篇论文做了个多模型调度系统，按任务自动选模型还能省钱，成本比单用最强模型低七成多，做路由和推理优化的可以看看。

#Mio #Model Serving OS #模型路由 #推理成本

arXiv cs.AI@SinapisAI Team et al. (30)Source

Model Serving OS · AI news | AITOP