#社区框架

共 1 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「社区框架」标签的资讯、产品与论文，按刊登时间排，新的在上。

6月12日

产品精选12:10

Inferoa：基于vLLM的社区智能体框架，优化推理经济

Inferoa 把推理成本优化直接嵌入智能体循环，做智能体应用或自托管模型的开发者值得关注，能帮你省下不少推理开销。

#智能体 #vLLM #推理优化 #社区框架

官方账号vLLM@vllm_project原文