SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件

谢邀。说说我自己的理解,对SVM的细节推导的理解来自于《统计学习方法》一书。
你的第一个式子 SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
中, SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
表示的实际上是所有样本点到分隔超平面的函数间隔的最小值,而 SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
乘上该最小值表示的是将函数间隔转换为几何间隔,当 SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
与 SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
成比例变换的时候,超平面不会变化,但是函数间隔会变化,但是几何间隔不会变化,所以这里的距离用几何间隔来度量。那么第一个表示的物理含义就是:希望所有的样本点到分割超平面的距离的最小值越大越好。第二个式子实际上将第一个式子的两层含义进行分开表示,也就是说表示样本的最小值和最小值最大化这两个信息。对于第二式子 SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
与 SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
原本应该是 SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
和 SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
,对于优化问题来说 SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
不影响结果,所以将它约去就变成了你写的这种形式了。

■网友
谢邀。
因为距离超平面最近的样本点使等号成立。
所以,就变成后面那个样子了

■网友
我觉得题主可能忽略了一个问题。这个式子本身就是一个不等式条件约束的优化表达式。
SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
转化成这样看应该就清楚多了。
SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
subject to SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
其中 SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件

然后让函数间隔等于1就行了。
补充一下自己的答案,其实这里函数间隔 SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
可以随意取值,假设等于2吧,这个时候超平面的解就是2w, 2b(SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
等于1 时候解是w, b)。可以看到不影响结果,2x + 2y = 0 和 x + y = 0是一条直线对吧。

■网友
多的不说了,直接说不明白的地方,N个样本原始的优化表达式,
SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件
等价于
SVM推导过程中最大化最小间隔为啥可以直接将min中的一堆换成约束条件


推荐阅读