SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
谢邀。说说我自己的理解,对SVM的细节推导的理解来自于《统计学习方法》一书。
你的第一个式子
中,
表示的实际上是所有样本点到分隔超平面的函数间隔的最小值,而
乘上该最小值表示的是将函数间隔转换为几何间隔,当
与
成比例变换的时候,超平面不会变化,但是函数间隔会变化,但是几何间隔不会变化,所以这里的距离用几何间隔来度量。那么第一个表示的物理含义就是:希望所有的样本点到分割超平面的距离的最小值越大越好。第二个式子实际上将第一个式子的两层含义进行分开表示,也就是说表示样本的最小值和最小值最大化这两个信息。对于第二式子
与
原本应该是
和
,对于优化问题来说
不影响结果,所以将它约去就变成了你写的这种形式了。
■网友
谢邀。
因为距离超平面最近的样本点使等号成立。
所以,就变成后面那个样子了
■网友
我觉得题主可能忽略了一个问题。这个式子本身就是一个不等式条件约束的优化表达式。
转化成这样看应该就清楚多了。
subject to
其中
然后让函数间隔等于1就行了。
补充一下自己的答案,其实这里函数间隔
可以随意取值,假设等于2吧,这个时候超平面的解就是2w, 2b(
等于1 时候解是w, b)。可以看到不影响结果,2x + 2y = 0 和 x + y = 0是一条直线对吧。
■网友
多的不说了,直接说不明白的地方,N个样本原始的优化表达式,
等价于
推荐阅读
- 西藏航空一机长执飞过程中身体不适降落后送医去世
- 正点财经|
- 大三学生准备日本留学过程中要不要准备考研
- 自学编程过程中离散数学的学习是否必要
- 产品是国产平板电脑,品牌是我们自己创立,名不见经传的品牌,但绝非山寨!在百度竞价过程中,选择啥样的关键词,能获得最大的销售量
- 线性模型中参数Θ=(XTX)?1XTY的推导过程
- caffe 怎样计算训练和测试过程中所耗时间
- 求助关于libsvm的predict方法的具体意义
- 软件在安装的过程中一般会干些啥事
- 百度云申诉过程中,为啥需要填写姓名及身份证号
