230m

general · First seen 2026-06-25 · Last seen 2026-10-08 · 4 mentions

Overview

230m 是 Liquid AI 旗下 LFM2.5-230M 模型的常用简称,指该公司于 2026 年 6 月发布的参数量约 2.3 亿的小型语言模型,属于 LFM2.5 系列,主要面向设备端(on-device)推理和 agent 类工作负载。它常被用来指代这一系列中参数量最小的模型,也是 230M 级别端侧模型讨论中的代表案例之一。

LFM2.5-230M 的近期进展

  • 2026 年 6 月 27 日,Liquid AI 正式发布 LFM2.5-230M,并同步提供 llama.cpp、MLX、vLLM、SGLang 和 ONNX 等多种推理框架支持,使模型可以在手机、笔记本等本地设备上直接运行。报道见 Liquid AI 发布 LFM2.5-230M 模型,支持多种推理框架用于设备端推理。
  • 2026 年 6 月底,主流推理引擎快速跟进:SGLang 在发布日即宣布支持该模型(LMSYS/SGLang 官方公告),vLLM 也将其作为面向 agent 工作负载的模型接入 vLLM 日(vLLM 项目公告)。
  • 2026 年 7 月 29 日,Liquid AI 又推出 LFM2.5-Encoder-230M 与 350M 双向编码器模型,可在 8K 上下文长度下保持 CPU 上的高速推理,将 230M 这一规模从生成式模型延伸到编码器场景。详见 Liquid AI 发布 LFM2.5-Encoder-230M 和 350M 双向编码器。
  • 相关话题在 2026 年 10 月 8 日的 Hacker News 热榜中仍有讨论,反映社区对超小型模型实际可用性的持续关注(当日热榜汇总)。
  • 当前焦点与观察点

    围绕 230M 级别模型的讨论主要集中于三个方向。一是端侧部署可行性:由于参数量小,这类模型在 CPU 和移动芯片上的延迟与内存占用明显优于大模型,但能力上限也更低,如何在小体积内保留指令遵循和 agent 能力是核心争议。二是生态适配速度:LFM2.5-230M 在发布时就获得 llama.cpp、vLLM、SGLang 等多个框架支持,说明开源推理生态对轻量模型的需求已经形成共识。三是编码器产品线的拓展:将 230M 规模用于双向编码器并在长上下文下保持 CPU 性能,指向的是搜索、分类、RAG 等对延迟敏感的场景。

    后续值得关注的是:230M 模型在实际 agent 任务中的基准表现能否与更大模型拉开足够小的差距,以及厂商是否会在这一参数量级别推出蒸馏或多语言变体。对于需要在本地运行 AI 功能的开发者而言,230M 量级正在成为一个值得跟踪的实用基线。

    Coverage

    5 on file