产品73°

Liquid AI 发布 DSpark,让 LFM2.5-VL-3B 可在 16GB Mac 上本地运行

精选理由

Liquid AI 出了个 DSpark 加速器,16GB 的 Mac 就能跑 LFM2.5-VL-3B,M5 芯片上解码快最多 3.13 倍,输出还不变。

Liquid AI 推出 DSpark drafter,配合 MLX-VLM 框架可在 16GB 内存的 Mac 上运行 LFM2.5-VL-3B 多模态模型。在 M5 芯片的视觉基准测试中,DSpark 将解码速度最高提升 3.13 倍。官方称在贪心解码下输出结果与原始模型完全一致,不牺牲生成质量。

原文 · @atomic_chat_hq

Run LFM2.5-VL-3B on 16GB Mac with DSpark ⚡️

@liquidai's new DSpark drafter delivers up to 3.13x faster decoding on M5 chips with MLX-VLM in its vision benchmarks while keeping identical outputs under greedy decoding

Run AI models locally -> https://t.co/RbcCOIht9R https://t.co/RsC6I3cMeC