支持向量回归机(SVR)标准形式中1/2||w||2咋理解( 二 )

支持向量回归机(SVR)标准形式中1/2||w||2咋理解
变化不太大。对于SVC,就是让超平面到两侧支持向量的距离最大,这样新的数据点有少许变化的时候,就不容易被分到另一类。
SVR也是一样。
支持向量回归机(SVR)标准形式中1/2||w||2咋理解
为1维向量也就是一个实数的时候,支持向量回归机(SVR)标准形式中1/2||w||2咋理解
就是直线的斜率 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
(转换成只有一个数的向量),这时候当然是 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
的绝对值,即支持向量回归机(SVR)标准形式中1/2||w||2咋理解
支持向量回归机(SVR)标准形式中1/2||w||2咋理解
范数 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
越小,直线越平缓,从而预测点X只有少许变化时, 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
变化尽量小。
当X为多维向量的时候,情况类似, 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
支持向量回归机(SVR)标准形式中1/2||w||2咋理解
范数支持向量回归机(SVR)标准形式中1/2||w||2咋理解
越小,超平面越"平缓"(这里指越接近“水平”),从而模型的稳健性更好。
SVC的支持向量指的是距离超平面 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
的点,以及分类错误的点(软间隔的情况下),而SVR则相反,其支持向量是在距离超平面以外的点,不考虑支持向量回归机(SVR)标准形式中1/2||w||2咋理解
以内的点。只有支持向量才对SVM的解有影响。
至于为什么要用 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
,和这个凸二次规划有关。据我推(xiā)测(cāi),是因为如下原因:
后面在计算Lagrange函数的时候,损失项和对应的Lagrange乘子的乘积一项中有 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
一项,展开化简后肯定会出现 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
的项。如果前面不是二次方,反倒徒增麻烦。反正有 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
调整二者的比例,干脆用二次方即可。这个 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
应该只是影响 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
支持向量回归机(SVR)标准形式中1/2||w||2咋理解
的范围与支持向量回归机(SVR)标准形式中1/2||w||2咋理解
的关系,但是后面是个 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
,前面干脆弄个 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
,加一起 支持向量回归机(SVR)标准形式中1/2||w||2咋理解
,挺好。而且在已有SVC模型研究很充分的基础上,没必要做多余的形式改变,添乱。Reference:
Alex J.Smola, Bernhard Sch?lkopf. A Tutorial on Support Vector Regression.


推荐阅读