牛顿法不是指数级收敛的么
指数级收敛是什么意思?是说误差按等比数列递缩,那个一般叫一阶收敛。例如:0.1,0.01,0.001,0.0001……牛顿法是二阶收敛,你可以粗略地认为这一步的误差的平方与下一步相当。例如:0.1,0.01,0.0001,0.00000001……
■网友
一阶收敛(也常常称作指数级收敛)比如:
二阶收敛,比如:
牛顿法在满足一些条件的情况下是二阶收敛算法
■网友
先说结论:牛顿法在一定条件下满足二阶收敛。
若初始点
在极值点
附近,并且
附近的Hessian矩阵正定且非奇异,并且Hessian矩阵满足Lipschitz连续条件,则牛顿法满足二阶收敛
注:
Lipschitz连续条件是比一般连续更加严格的条件,在函数的定义域内的两点,存在一个常数K满足如下不等式:
【牛顿法不是指数级收敛的么】 证明如下:
上述右式成立,是因为g(x^*)=0,继续:
上式是因为:
继续,再利用Lipschitz连续,得到
所以,牛顿法二阶收敛
推荐阅读
- 花盆满是小飞虫?不是大事,花盆撒把它,小虫死翘翘
- 医生■苏州医生高铁上救人,这已经不是他第一次……
- 公益律师保文静:家庭暴力不是所谓的“家务事”
- 长三角高质量一体化发展指数发布
- 银行系统的研发岗(程序员)是不是很难进(校招)推广到国企的研发岗(程序员)呢
- 鬼斗车|安全性是不是韩系车短板?到车里去寻找下答案!
- 孩子|张奶奶笔记:母乳是不是吃饱了?(权威文献摘录)
- 知乎有没有必要增加一个特别关注功能
- 橘猫车探长|销量超3500万辆,这合资车升级换代后,丰田、本田都不是对手!
- Syniverse是不是南京最难进的IT公司
