#边缘计算

Liquid AI发布600M参数的多模态模型，支持本地部署和微调，适合边缘计算场景。

kimmonismus@kimmonismus原文

把 LoRA 搬到边缘设备上跑 CNN，激活内存砍掉九成多，做端侧学习的人可以看看具体做法。

一篇做低比特量化的论文，专治卷积层里 im2col 导致激活体积暴涨的问题，量化开销最多降 9 倍，做边缘端部署的可以看看。

这篇论文挺反常识的：不用任何权重、靠 Mandelbrot 分形坐标做语言决策，延迟只有 7ms 还能跑在单片机上，可以看看它怎么绕开 LLM 的。

有人拿 Jev 决策模型替掉 DeepSeek 和 Qwen 跑边缘编排，延迟最多降26.5%，API 费用省近七成。

做边缘计算或网络调度的可以看这篇：Jev 把意图翻成执行契约再交给数值调度器，决策延迟比 Gemini 低 61.9%。

交通摄像头的模型更新包只要14.6KB，在ODinW-13和D-RICO上成绩不输大参数方案。

工厂智能体如何通过子网络选择在有限硬件上高效运行，实测功耗仅1.3-5瓦。

SAT-Edge-Agent在ARM芯片上跑通卫星边缘智能体编排，延迟数据公开可复现，关心边缘AI的可以看看。

这个新框架把联邦学习和分割学习结合起来，用量化省电，还能控制精度，比传统方法更适合手机这类设备跑大模型。

VetClaw 把摄像头和云端大模型结合起来，让兽医能快速做疾病初筛，比单用图片准确多了。

想在自己的Jetson上跑AI？NVIDIA官方手把手教你，从零搭建本地GenAI环境。

官方账号NVIDIA AI@NVIDIAAI原文

这篇论文讲了一个能自己校准的智能体框架，用ARIMA预测把资源分配准确率提了91.7%，速度还快了71.7%。搞边缘计算或零知识证明的可以看看。

这论文把神经网路编译成纯布尔电路，在边缘设备上跑EEG分类，延迟低还省电。痴呆检测准确率比MLP高6.8%，值得搞BCI的人看看。

这篇论文把MoE模型卸到边缘设备上跑，靠专家相似性分组减少跨服务器通信，实测延迟和流量都降了，质量只掉一点。

这篇论文提出PRISA，用路边LiDAR自动学习轨迹预测，无需人工标注就能在边缘实时评估碰撞风险，延迟仅194毫秒，已在真实路口跑通。