线性最小二乘法的解是否唯一

去书上问.泛函分析教材前几章会证明一个定理:只有线性空间关于范数严格凸的时候最佳逼近元才是唯一的精度问题吧.
■网友
确实能不唯一。举一个最简单的例子,参数是a,拟合y=ax ,数据只有x=y=0,这时候a取任何值都能使(y-ax)^2最小(都是0)。这个例子里数据太小,可能不太实际,要数据多还不唯一至少要2维的例子。给参数a,b。拟合z=ax+by,数据点全在xoz平面,y=0。这时就相当于压掉y方向在做最小二乘法,b这个参数是多余的,所以可以取任何值,于是拟合参数不唯一。这个例子可能还太特殊,因为数据全在xoz平面 一眼可能就看出来了,但是差一个线性变换呢?比如原本数据是(格式是) ,,变换成 这时数据就成了,,,并且令新参数=0.5*,计算一下能发现 u*(x+y)+v*(x-y)=ax+by,于是参数只要满足u+v等于之前的a就能取得同样的最小值。如果线性变换更复杂些,这样就看不出的数据的特殊性了。这两个例子展示了一种可能性:当数据聚在一个维数比参数个数少的线性子空间里,换个说法就是数据形成的向量组的最大无关向量组里的向量太少,导致有个别参数 或者参数的线性组合没约束了,他们就能乱跑了。你也可以想想解方程组的时候,奇异的矩阵行为和这个差不多。至于这是不是 让最小二乘法没有唯一解的唯一原因,我不知道。
■网友
线性规划是凸的,只有一个最优解
【线性最小二乘法的解是否唯一】 QR分解得出来的解不好可能是程序精度不够,也可能是算错了


    推荐阅读