支持向量机回归为啥是最大化到超平面距离的上限不是很明白
打个比方:
你和对面的车子过车. 水平距离越远,是不是就越安全呢? 如果太近, 贴着走的话, 万一手抖了一下, 就碰着了.
■网友
支持向量机要的目的是分类,在给出一个目标点之后能够进行准确的分类,而分类超平面存在的意义就是要能够更好的对数据进行划分,划分尽量清晰,而不存在混淆的情况,这个时候最大化间隔的目的就是使得当数据点能够很好的落在划分超平面的两边,能够很好的对数据进行划分,而尽可能少的存在误分类的情况存在,即落在正样本区域的负样本或者落在负样本区域的正样本,这样能够使得当正样本的数据点出现的时候划分为正样本,负样本出现的时候划分到负样本,减小分类误差。
————————————————————————————————————————
2017/5/6 修改,在评论区看了提问者的回复之后又具体解释了一下,说的不好,有什么问题在评论区指出。
支持向量机的目标函数的意义就是让分隔超平面到两类之间最小的距离之和尽可能的大,为什么这么会越准确,现在假设说有两个班级的人,想要找一条线把两个班级的人分开,分开的尽可能好,但是现在我们手中的数据只包含了一部分的同学,并没有说所有人都在这边,这个时候我们想到是要找到一条线,但是这条线想要把两个班级的人分开,肯定最先分割开来的是离这条线最近的一个同学(支持向量),如果最近的同学分类都很好,那距离远的肯定也分割开来了,接下来,我们就要想办法使的这条线是最好的一条,这个时候呢,就要想着让两个班级最近的两个同学最远,也就是离分类线最近的两个同学之间距离最远,最近的都是最远了,那在最近之后的肯定也是最远了,所以我们就把目标设定为最大化最近的同学到分割超平面的距离之和最大,这就是这个目标函数的意义。
■网友
与超平面的距离越远,说明分类的鉴别力越强啊,所以要最大化支持向量到超平面的距离。试想,如果正负两类的点离超平面都很近,是不容易混淆了?
■网友
目前,在我看来,这是svr的一种偏好,如果是题主认为的最小化,那么模型倾向过拟合,把数据拟合的特别接近。因此,我认为最大化,是缓解过拟合问题;另一个角度看,这是l2正则化项,我们一般加上它,不也是为了缓解过拟合现象吗?所以说,无论是SVM还是SVR,它们都是自带正则项的。
■网友
如图,ε是事先选取的参数,两条虚线之间的部分可以理解为误差带。上图公式中的约束条件的意思是距离超平面最远的点也要在误差带之间。你说的S中的点到超平面距离的上界可以理解为上图虚线到实线的几何距离,最大化S中的点到超平面的距离的上界即最大化虚线到实线的几何距离,即最大化误差带。只有最大化误差带才能保证距离超平面最远的点也要在误差带之间。最大化误差带是为了保证所有训练样本都在误差带之内(当然误差ε是事先选取好的较小的参数)。
【支持向量机回归为啥是最大化到超平面距离的上限不是很明白】 我也是小白一枚,我是参考的《支持向量机-理论、算法与拓展》一书,有不对的地方欢迎指正。
推荐阅读
- 『创业』自主创业每年最高可减免税收14400元 南京出台意见,多举措支持退役军人就业创业
- |常州天宁:检察建议让“忙道”回归盲道
- 微博目前已经支持文本,图片,位置分享,为啥没有语音和视频呢微博的pm肯定想过这两种微博形态,但迟迟不做的原因到底是啥。是语音和视频不符合产
- 为啥Smartisan OS只能支持移动的VoLTE
- 能和 Google Calender 方便双向同步的 iOS 日程管理软件有哪些最好也支持iPad
- 凯迪拉克CT6|都说新辉昂回归百万级质感,看完后发现不假
- 马蓉|马蓉回归媒体,抹红唇搭配白衬衫,比以前更漂亮更有气质了
- 趣头条|奥迪将回归拉力赛 混动版赛车你期待吗?
- 高校|教育部:支持14所合建高校深化改革工作
- 销量|回归的“伊兰特”,在狭路中逆袭
