Chinese contentJack Clark 推荐一类超细分场景的 AI 应用论文
Jack Clark 分享了他爱看的一类 AI 论文：专攻某个极窄场景的应用研究，像 CucumberVision at the Edge 这种标题就很妙。想做 AI 落地、关心模型在真实环境里会卡在哪的人，可以顺着这个思路找论文看。
#edge deployment
13 stories · 1 in 7 days · 2 in 30 days
Stories, products and papers tagged "edge deployment", newest first.
Nov 11
Oct 23
MiniCPM Spark Program S1 concludes with 16 winning projects
The results show small models like MiniCPM5-2B and MiniCPM-o 4.5 running usefully on consumer hardware, from a Mac mini M4 to an ESP32-S3, without cloud reliance. Builders working on edge deployments can study the winning setups, open scripts and evaluation data on OpenBMB's GitHub and Hugging Face to replicate or extend them. The programme also signals OpenBMB using community challenges to grow its open-source ecosystem internationally.
Oct 8
Chinese content本地 Liquid d1 3B 在 Snake 游戏中胜过 OpenAI Decision
Liquid AI 的 d1 3B 单卡跑 Snake，8ms 决策吃了 86 个苹果，OpenAI API 345ms 才吃 3 个，对比很直观。
Sep 29
Chinese contentArm 讲师在 PyTorch 大会演示用 ExecuTorch 将智能体部署到边缘设备
Arm 的人在 PyTorch 大会讲怎么用 ExecuTorch 把智能体跑进机械臂和穿戴设备，做边缘部署的可以去听。
Sep 11
Edge-deployable VLMs tested for species identification
For those working with camera traps in the field, this study provides crucial data on how well current models can identify species in real-world conditions, showing significant performance drops on low-quality images.
Jul 15
Chinese contentPrismML 发布 Bonsai 27B：Qwen3.6-27B 的 1-bit 和三元量化版本，可在笔记本和手机上运行
PrismML 把 Qwen3.6-27B 压到 5.9GB，手机都能本地跑，还全开源，适合离线使用。
Jul 14
Chinese contentTransformer引导的群体智能实现经济型神经架构搜索
这篇论文告诉你，不用几千GPU天也能搜出好架构，普通3060显卡3小时就能找到比ResNet-20更小的CIFAR-10模型，还能直接优化欺诈检测的F1分数。
Jun 10
Chinese contentFADA：统一视觉语言模型实现胎儿超声解读与标注，单GPU可训练
FADA 解决了中低收入国家超声技师短缺导致的产前筛查缺口，做医疗 AI 或边缘部署的团队可以直接在手机上跑完整流程，值得关注其开源代码和模型。
Jun 8
Chinese contentClairvoyant：预测式SJF调度缓解串行LLM后端队头阻塞
本地部署LLM的开发者终于有办法解决队头阻塞了——Clairvoyant用极低开销预测请求长度，短查询不再被长任务堵死，Ollama/llama.cpp用户可以直接集成试试。
May 27
Chinese contentReMoE：通过路由器微调提升内存受限MoE模型推理中的专家复用
ReMoE解决了内存受限设备上MoE模型推理的I/O瓶颈，做边缘部署或大模型推理优化的开发者可以直接试，开源代码让复现门槛很低。
May 26
Chinese contentOrpQuant：无乘法器的PoT量化新方法，15分钟校准LLaMA-2-7B
OrpQuant解决了低比特量化中特征流形退化的问题，做边缘部署的开发者可以直接用这个15分钟校准的方案替代传统MAC密集型方法，硬件效率显著提升。
May 22
Chinese contentMambaGaze：双向Mamba建模眼动缺失数据，实现认知负荷实时评估
眼动数据缺失是认知负荷评估的长期痛点，MambaGaze用双向Mamba显式建模缺失模式，做可穿戴AI或人机交互的团队可以直接参考其边缘部署方案。
May 16
Chinese contentMiniCPM-V 4.6：1.3B视觉模型，Benchmark表现强劲
1.3B参数就能在多项基准上超越更大模型，做边缘部署或移动端视觉应用的开发者值得一试，成本低效果强。