梯度下降优化算法Momentum的具体解释

随便逛逛,我简单回答一下第三个问题吧!
在y方向上,参数改变一点点就会使得损失值变化很大,也就是坡度“陡峭”,即偏导数大;
【梯度下降优化算法Momentum的具体解释】 在x方向上,参数改变一点点并不会使得损失值变化很大,也就是坡度“平缓”,即偏导数小。


    推荐阅读