# 三维损失曲面上的梯度下降

> 来源：https://deeplearning.bnuai.com/demos/loss-surface ｜ 作者：唐志清（北京师范大学） ｜ 更新：2026-11-01 ｜ 内容依据邱锡鹏《神经网络与深度学习》（https://nndl.ai/）及作者公开课件

> （此处为交互演示，请在网页中使用：https://deeplearning.bnuai.com/demos/loss-surface）

## 观察要点

1. 学习率的上限由最陡方向的曲率决定：对 f = ax²，学习率超过 1/a 就会发散。
2. 高维非凸优化中鞍点远比局部极小常见，梯度接近 0 的“平原”会让训练停滞。
3. 动量相当于给小球加了惯性，能冲过小坑、加速穿过平缓区域。

相关章节：[第 7 章 网络优化与正则化](https://deeplearning.bnuai.com/chapters/07-optimization-regularization)。