详解两者的区别 线性回归和非线性回归的区别

序曲 浣溪沙永居
【送】苏轼
菊花暗荷一夜霜枯 。新芽和绿叶照耀着森林 。竹屋是绿色和黄色的 。
香半断,清泉盈齿 。第三天吴姬的手还是香的 。
[翻译]
一夜霜降,菊花凋零,荷叶凋零 。黄橙绿的树叶相映成趣,熠熠生辉,竹篱屋掩映在绿黄相间的橘林中 。
掀开橘子皮,香油腺飞溅如雾;初尝新橙,汁如泉涌在齿与舌之间 。吴的手剥了橘子三天了还很香 。
[解读]
诗、意、乐,讲求气象,自然容易被人称道 。苏轼是吟诗人 。他的诗中既有讽刺意味深刻的名作,又有精工刻画的绝妙体系 。像这首咏橘诗,可以说是“写了一幅气貌图,随物而变;它依附于声,又随心飘零(《文心雕龙·寻访》),妙趣横生,含蓄隽永,虽无深刻的思想内容 。
作者通过吟诵橙色的主题,表达了自己清新高贵的气质 。最后一部,菊花和荷花经不起霜的摧残,写出了陈皮耐寒的性格和它在尾前屋后的繁盛局面 。接下来的片子,我们写的是新橙的味道和橙果的香味,一个字“惊喜”,一个字“恐惧”,非常巧妙精准,能传达出品尝者的味道 。最后一句,我们用“三天的手还是香的”来夸张和突出橘子果的香味 。
非线性回归简介 非线性回归是指在因变量和一系列自变量之间建立非线性模型 。线性和非线性不是指因变量和自变量之间的关系是线性的或者曲线的,而是因变量是否可以用自变量的线性组合来表示 。如果两个变量之间的关系可以用变量变换后的线性表示,那么就可以用上一章介绍的方法来拟合回归方程 。而变量发生变化后,两个变量之间的关系无法用线性形式表示,因此将使用本节介绍的非线性回归分析方法 。
非线性回归模型通常可以表示为:
其中:f(x,θ)是所需的函数 。该模型的结构与线性回归函数的结构非常相似,只是期望函数可能是任意形式,甚至在某些情况下没有显式关系,回归方程中的参数估计是用迭代法得到的 。
SPSS使用两种迭代方法:Levenberg-Marquardt方法和序列二次规划方法 。
Levenberg-Marquardt法又叫做阻尼最小二乘法,是对Gauss-Newton法的改进 。它有一个阻尼因子λ,用λ可以控制搜索步长和方向 。当λ=0时,即为Gauss-Newton法;当λ–∞,趋于零向量,即为最速下降法 。Levenberg-Marquardt法的优势在于对影响Gausss-Newton法有效性的病态二次项,也可以通过阻尼因子来控制 。序列二次规划法主要思路是:形成基于拉格朗日函数二次近似的二次规划子问题,而这些问题可以用任意一种二次规划算法求解,求得的解用来形成新的迭代公式,作为下一次搜索的依据 。用序列二次回归算法求解非线性有约束问题时的迭代次数常比求解无约束问题时少,因为在搜索区域内,序列二次规划算法可以获得最大的搜索步长和方向信息 。SPSS实现非线性回归 例:医院管理者希望建立一个回归模型来预测重伤员出院后的长期恢复情况 。自变量为住院时间长短(x),因变量为出院后长期恢复预后指数(y) 。指数值越大,预后越好 。
绘制散点图(1)打开图形-旧对话框-散点图,绘制散点图 。
对两个变量可尝试拟合指数曲线 ,对应变量y做自然对数变化,得到y‘=lny 。观察y’与x的散点图(如下图所示),y‘与x呈直线趋势 。注意:如果用最小二乘法拟合y’与x的执行回归方程 y‘=b0+b1x,之后再将结果带回,那么得到的方差不能保证残差平方和最小,因为此时回归方程y’=b0+b1x只保证了最小 。非线性回归方程中的迭代算法得到方程,可以保存残差平方和最小 。打开 分析—回归—曲线估算(1)参数选择
A .主页说明
因变量:进入非线性回归模型的因变量,因变量是数值型的,如果为分类变量,则分析前应进行转换 模型表达式:输入的模型至少应包含一个自变量 函数:给出了各种可能用到的数学函数(2)参数页
进行迭代计算来确定模型参数,首先必须给定参数的处置,在参数子对话框内指定模型参数的处置 。名称:指定参数的名称,必须是合法的,并且是模型表达式中使用的名称 开始值:指定参数的处置,初值越接近最终确定的参数真值越好 。所有参数都需要指定初值,不合适的初值会导致迭代不收敛或建立的模型只对部分数据有效 。将前次计算的参数结果作为当前初值,可增加计算的精度 。使用上一分析的开始值:是否将以前进行的非线性回归分析获得的参数值作为初始值,若选中该项,它将取代事先指定的初始值 。该选项在后面的分析中一直起作用,所以当变换模型时,务必不要忘记取消该选项 。(3)损失页


推荐阅读