Hessian

Hessian，作为机器学习中描述模型参数敏感度的工具，近期在神经网络优化领域的研究中扮演着重要角色。

Hessian 近期进展

KellyBoost: Growth-Optimal Portfolio Construction with Gradient-Boosted Trees：该研究提出了一种基于梯度提升树的成长最优投资组合构建方法，Hessian在此被用于优化投资策略。

神经网络优化器原理：Adam的收敛性与Adam-mini：研究了Adam优化器的收敛性，Hessian在分析中起到了关键作用。

HAMP-LIC：Hessian感知的混合精度量化用于学习图像压缩：提出了一种新的混合精度量化方法，Hessian感知技术用于提高图像压缩的质量。

BaKron：基于Kronecker分解Hessian的高效量化：该研究通过Kronecker分解Hessian，实现了高效量化，提高了计算效率。

Hessian在优化领域的研究正逐渐深入，其应用不仅限于传统的梯度下降，还扩展到了混合精度量化、神经网络架构搜索等前沿领域。如何更有效地利用Hessian信息，以及如何将其与新的优化算法结合，是当前研究的焦点。