#设备端推理
共 3 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「设备端推理」标签的资讯、产品与论文，按刊登时间排，新的在上。
8月5日
6月28日
Liquid AI 发布 LFM2.5-230M 模型，支持多种推理框架用于设备端推理
Liquid AI 出了个超小模型 LFM2.5-230M，手机跑 213 tokens 每秒，树莓派也能跑 42，指令遵循还比 Qwen3.5-0.8B 和 Gemma 3 1B 强。
5月14日
Locale-Conditioned Few-Shot Prompting 解决 SLM 在 PII 替换中的演示复读问题
做设备端隐私处理或小模型应用的团队，这篇论文揭示了少样本提示中一个容易被忽视的陷阱——模型会复读演示而非推理，并给出了一个简单有效的修复方案，值得点开看看。