牛顿法不是指数级收敛的么

指数级收敛是什么意思?是说误差按等比数列递缩,那个一般叫一阶收敛。例如:0.1,0.01,0.001,0.0001……牛顿法是二阶收敛,你可以粗略地认为这一步的误差的平方与下一步相当。例如:0.1,0.01,0.0001,0.00000001……
■网友
一阶收敛(也常常称作指数级收敛)比如:牛顿法不是指数级收敛的么
二阶收敛,比如:牛顿法不是指数级收敛的么
牛顿法在满足一些条件的情况下是二阶收敛算法
■网友
先说结论:牛顿法在一定条件下满足二阶收敛。
若初始点牛顿法不是指数级收敛的么
在极值点牛顿法不是指数级收敛的么
附近,并且牛顿法不是指数级收敛的么
附近的Hessian矩阵正定且非奇异,并且Hessian矩阵满足Lipschitz连续条件,则牛顿法满足二阶收敛
注:
Lipschitz连续条件是比一般连续更加严格的条件,在函数的定义域内的两点,存在一个常数K满足如下不等式:
牛顿法不是指数级收敛的么
【牛顿法不是指数级收敛的么】 证明如下:
牛顿法不是指数级收敛的么
上述右式成立,是因为g(x^*)=0,继续:
牛顿法不是指数级收敛的么
上式是因为:
牛顿法不是指数级收敛的么
继续,再利用Lipschitz连续,得到
牛顿法不是指数级收敛的么
所以,牛顿法二阶收敛


    推荐阅读