线性最小二乘法的解是否唯一
去书上问.泛函分析教材前几章会证明一个定理:只有线性空间关于范数严格凸的时候最佳逼近元才是唯一的精度问题吧.
■网友
确实能不唯一。举一个最简单的例子,参数是a,拟合y=ax ,数据只有x=y=0,这时候a取任何值都能使(y-ax)^2最小(都是0)。这个例子里数据太小,可能不太实际,要数据多还不唯一至少要2维的例子。给参数a,b。拟合z=ax+by,数据点全在xoz平面,y=0。这时就相当于压掉y方向在做最小二乘法,b这个参数是多余的,所以可以取任何值,于是拟合参数不唯一。这个例子可能还太特殊,因为数据全在xoz平面 一眼可能就看出来了,但是差一个线性变换呢?比如原本数据是(格式是) ,,变换成 这时数据就成了,,,并且令新参数=0.5*,计算一下能发现 u*(x+y)+v*(x-y)=ax+by,于是参数只要满足u+v等于之前的a就能取得同样的最小值。如果线性变换更复杂些,这样就看不出的数据的特殊性了。这两个例子展示了一种可能性:当数据聚在一个维数比参数个数少的线性子空间里,换个说法就是数据形成的向量组的最大无关向量组里的向量太少,导致有个别参数 或者参数的线性组合没约束了,他们就能乱跑了。你也可以想想解方程组的时候,奇异的矩阵行为和这个差不多。至于这是不是 让最小二乘法没有唯一解的唯一原因,我不知道。
■网友
线性规划是凸的,只有一个最优解
【线性最小二乘法的解是否唯一】 QR分解得出来的解不好可能是程序精度不够,也可能是算错了
推荐阅读
- 出生■扬州最小病例!宝宝出生24小时就接受外科手术
- 汽车市场|你还在看不起国产车:自主品牌与国际品牌差距为十年来最小
- 线性模型中参数Θ=(XTX)?1XTY的推导过程
- 从一个含有 n 个元素的集合中同时找出最大值和最小值,最少需要比较几次?
- 咋才能将视频文件压缩到最小
- 汽车市场|汽车自主品牌车辆可靠性表现与国际品牌差距为十年来最小 | 美通社
- 梯度下降算法中求J(θ)的最小值时,θ0(常数项)的值怎样确定
- 正常杂志印刷,内文字号最小控制在多大才不会影响阅读流畅度
- 『早产儿』常州“早到天使”又见“亲人” 世界早产儿日:最小出生体重近800克
- 线性方程组的迭代求解法的收敛性怎样保证
