vLLM-Omni 获 5K GitHub Stars，支持 30+ 多模态模型
多模态推理开发者终于有了一个统一的高效引擎——vLLM-Omni 支持 30+ 模型和多种硬件，做多模态应用或推理优化的团队可以直接拿来用，省去重复造轮子的时间。
#GitHub Stars
共 1 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「GitHub Stars」标签的资讯、产品与论文，按刊登时间排，新的在上。
6月12日
多模态推理开发者终于有了一个统一的高效引擎——vLLM-Omni 支持 30+ 模型和多种硬件，做多模态应用或推理优化的团队可以直接拿来用，省去重复造轮子的时间。
