Differentiable

general · First seen 2026-05-22 · Last seen 2026-11-17 · 43 mentions

Overview

可微(Differentiable)技术指让系统中原本离散或不可导的环节——如世界模型、优化器、几何曲线甚至物理器件——具备梯度信息,从而能被端到端反向传播训练的思路。近几个月,这一思路在机器人学习、长序列建模和专用计算硬件三个方向同时取得进展,成为连接深度学习与传统工程建模的重要桥梁。

可微技术近期进展

  • arXiv 论文提出可微精确学习框架 DFST,实现极长序列泛化:该框架将精确学习过程做成可微形式,据论文描述可在极长序列上保持泛化能力,被视为对长上下文建模的一种新尝试。
  • RoboKit 发布:面向机器人学习的并行可微优化工具包:工具包为机器人领域提供并行化的可微优化能力,降低了将梯度优化嵌入机器人控制流程的门槛。
  • SuperMimic:用可微世界模型训练宇树 G1 全身动作:UC Berkeley 团队的这篇工作通过可微世界模型对宇树 G1 机器人进行全身动作模仿训练,相关论文 获得 CoRL 2026 最佳会议论文奖,团队也在 BAIR at CoRL 2026 中做了系统介绍。
  • A Blueprint for Equilibrium-Based Differentiable Continuous-Variable Thermodynamic Computing:论文给出基于平衡态的可微连续变量热力学计算蓝图,把可微性延伸到非常规计算硬件层面。
  • 可微方法的当前焦点与观察点

    目前可微方法的应用边界正在快速外扩:除机器人外,可微长度控制用于小模型临床推理 把输出简洁性变成可优化的可微目标,TorchCurves: Differentiable Parametric Curves 让参数化曲线进入梯度框架,FIDE 和 脊柱关键点检测中的可微形状建模 则覆盖了实验设计与医学影像分析。

    值得观察的问题有三点:其一,可微世界模型在真实机器人上的 sim-to-real 稳定性仍需更多实验验证,SuperMimic 获奖说明社区认可但仍属早期;其二,可微化往往以计算开销和内存为代价,DFST 与 RoboKit 如何在效率上站住脚是关键;其三,热力学计算等非常规硬件路线距离实用尚远,更多是长期布局。总体来看,可微化正在从一种训练技巧演变为系统设计方法论,但其收益是否普遍成立,还需要看这些工具在各自领域能否被广泛复用。

    Coverage

    10 on file