本地 Liquid d1 3B 在 Snake 游戏中胜过 OpenAI Decision
Liquid AI 的 d1 3B 单卡跑 Snake，8ms 决策吃了 86 个苹果，OpenAI API 345ms 才吃 3 个，对比很直观。
#边缘部署
共 11 条 · 7 天 1 条 · 30 天 3 条
信息流里打上「边缘部署」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月8日
9月29日
Arm 讲师在 PyTorch 大会演示用 ExecuTorch 将智能体部署到边缘设备
Arm 的人在 PyTorch 大会讲怎么用 ExecuTorch 把智能体跑进机械臂和穿戴设备，做边缘部署的可以去听。
9月11日
7月15日
PrismML 发布 Bonsai 27B：Qwen3.6-27B 的 1-bit 和三元量化版本，可在笔记本和手机上运行
PrismML 把 Qwen3.6-27B 压到 5.9GB，手机都能本地跑，还全开源，适合离线使用。
7月14日
Transformer引导的群体智能实现经济型神经架构搜索
这篇论文告诉你，不用几千GPU天也能搜出好架构，普通3060显卡3小时就能找到比ResNet-20更小的CIFAR-10模型，还能直接优化欺诈检测的F1分数。
6月10日
FADA：统一视觉语言模型实现胎儿超声解读与标注，单GPU可训练
FADA 解决了中低收入国家超声技师短缺导致的产前筛查缺口，做医疗 AI 或边缘部署的团队可以直接在手机上跑完整流程，值得关注其开源代码和模型。
6月8日
Clairvoyant：预测式SJF调度缓解串行LLM后端队头阻塞
本地部署LLM的开发者终于有办法解决队头阻塞了——Clairvoyant用极低开销预测请求长度，短查询不再被长任务堵死，Ollama/llama.cpp用户可以直接集成试试。
5月27日
5月26日
OrpQuant：无乘法器的PoT量化新方法，15分钟校准LLaMA-2-7B
OrpQuant解决了低比特量化中特征流形退化的问题，做边缘部署的开发者可以直接用这个15分钟校准的方案替代传统MAC密集型方法，硬件效率显著提升。
5月22日
MambaGaze：双向Mamba建模眼动缺失数据，实现认知负荷实时评估
眼动数据缺失是认知负荷评估的长期痛点，MambaGaze用双向Mamba显式建模缺失模式，做可穿戴AI或人机交互的团队可以直接参考其边缘部署方案。
5月16日