支持向量回归机(SVR)标准形式中1/2||w||2咋理解( 二 )
变化不太大。对于SVC,就是让超平面到两侧支持向量的距离最大,这样新的数据点有少许变化的时候,就不容易被分到另一类。
SVR也是一样。
当
为1维向量也就是一个实数的时候,
就是直线的斜率
(转换成只有一个数的向量),这时候当然是
的绝对值,即
的
范数
越小,直线越平缓,从而预测点X只有少许变化时,
变化尽量小。
当X为多维向量的时候,情况类似,
的
范数
越小,超平面越"平缓"(这里指越接近“水平”),从而模型的稳健性更好。
SVC的支持向量指的是距离超平面
的点,以及分类错误的点(软间隔的情况下),而SVR则相反,其支持向量是在距离超平面以外的点,不考虑
以内的点。只有支持向量才对SVM的解有影响。
至于为什么要用
,和这个凸二次规划有关。据我推(xiā)测(cāi),是因为如下原因:
后面在计算Lagrange函数的时候,损失项和对应的Lagrange乘子的乘积一项中有
一项,展开化简后肯定会出现
的项。如果前面不是二次方,反倒徒增麻烦。反正有
调整二者的比例,干脆用二次方即可。这个
应该只是影响
和
的范围与
的关系,但是后面是个
,前面干脆弄个
,加一起
,挺好。而且在已有SVC模型研究很充分的基础上,没必要做多余的形式改变,添乱。Reference:
Alex J.Smola, Bernhard Sch?lkopf. A Tutorial on Support Vector Regression.
推荐阅读
- 『创业』自主创业每年最高可减免税收14400元 南京出台意见,多举措支持退役军人就业创业
- 微博目前已经支持文本,图片,位置分享,为啥没有语音和视频呢微博的pm肯定想过这两种微博形态,但迟迟不做的原因到底是啥。是语音和视频不符合产
- 为啥Smartisan OS只能支持移动的VoLTE
- 能和 Google Calender 方便双向同步的 iOS 日程管理软件有哪些最好也支持iPad
- glsl中向量的除法具体是啥运算过程
- 高校|教育部:支持14所合建高校深化改革工作
- 国内有支持Docker的云服务商吗
- 袁泉|袁泉获金鸡最佳女配,现场感谢先生支持,没想到夏雨的狗粮更狠
- 未来高速|江苏首条“未来高速”明年开通 车路协同支持“无人驾驶”
- 咋知道天猫上某一个商品是否支持货到付款
