有没有线性分类器可以最小化错误分类的个数( 二 )


再来说说Logistic regression, 假设目标是分两类 【有没有线性分类器可以最小化错误分类的个数】 有没有线性分类器可以最小化错误分类的个数
有没有线性分类器可以最小化错误分类的个数
有没有线性分类器可以最小化错误分类的个数
有没有线性分类器可以最小化错误分类的个数
则认为有没有线性分类器可以最小化错误分类的个数
, 那么分类边界为有没有线性分类器可以最小化错误分类的个数
假设分类边界时线性的,那么有:有没有线性分类器可以最小化错误分类的个数
有没有线性分类器可以最小化错误分类的个数
便是Logistic regression, 使用最大似然估计:有没有线性分类器可以最小化错误分类的个数
有没有线性分类器可以最小化错误分类的个数
可见其并不是最小二乘法的最小距离.线性分类边界意味着没办法完全zero-one loss, 除非采用非线性边界, 比如高斯分类器的二次曲线. 或者是采用更复杂的, 不过这种情况下损失函数没法优化, 如 @王赟 Maigo 所说. 如果要zero-one loss, 一种简单的做法:K-Nearest Neighbors Classification可以做到(1NN classififier)实践中一般采用weighted average有没有线性分类器可以最小化错误分类的个数
有没有线性分类器可以最小化错误分类的个数
有没有线性分类器可以最小化错误分类的个数

■网友
感知机模型?看看李航那本书
■网友
一般是选个数的upper bound作为最小化的目标。来转化为更简单的问题


推荐阅读