python实现LMS算法的问题

楼主,发散是因为你的学习速率太大了,你把alpha设置为0.001,就没问题。我试了下是可以的。而为什么加了m可以,是因为加了m其实相当于缩小了alpha系数,所以能够收敛。觉得正确请给个赞
■网友
梯度下降 是说沿着梯度方向下降 没有说要沿着这个方向下降梯度个单位!数学上 下降的步长趋近于0 才能保证收敛!
■网友
讲义里是笔误。应该有1/m。请见:Coursera Wiki(另外你描述中说错一点,第一个公式里求和符号以后的部分不是“误差项”,而是“误差项”关于xj的偏微分。不过这和问题无关。)


    推荐阅读