啥是latent SVM
菜鸟试着简单答一下 但是表示自己对Latent SVM(下面简称LSVM)也还是认识很模糊 希望可以抛砖引玉引来大神对LSVM的独到见解 首先总觉得从题主的问题内容来看,应该再回去好好读读SVM是什么,因为Latent SVM和Linear SVM完全没有可比性啊 Linear SVM中的Linear指的仅仅是SVM算法所使用的核函数是线性核,核函数的选择应该是SVM的基本知识了 核有很多种 比如RBF核 高斯核 多项式核等,这些是应该和Linear SVM放在一起讨论的而Latent SVM是对基本SVM算法的一种扩展,其‘Latent’是指混合模型中配置模型的隐变量(比如LSVM最经典的应用\u0026lt;Object Detection with Discriminatively Trained Part-Based Models\u0026gt;中,隐变量指的是部件位置的配置变量),这个隐变量的配置可以类比于混合模型中决定一个样本属于哪个模型的虚拟变量,虽然不是分类器的一个input varible,要与分类器所有input variable的参数一起进行训练,所以才叫Latent SVM自己编个可能不太妥当的例子来说明LSVM好了 比如我们有一个数据集是一组生物的身体特征(没有性别标注)然后输出的label是这个生物是不是人 但是男人与女人的标准显然是完全不同的 所以我们要引入一个隐藏变量V,V=1的时候表示男,V=0的时候表示女,从而我们在进行训练的时候,为了达到最好分类,我们要对男性女性分别有一个不同的SVM分类器的系数,然而由于没有性别标注,我们在训练的时候要找到一个隐变量的最优配置{V},使得整个分类器在对男女分别训练之后效果达到最好,最后训练的结果也就包含了样本中每个个体的性别变量V的配置,这也就是隐变量了,当我们用训练好的模型进行判别新的样本的时候,我们只需要分别计算新的样本在每个模型下的配置,用其中得分最高的那个配置判断该样本是不是人。当然,引入这样的隐变量在模型训练的时候会更麻烦,每次迭代求最优值都要考虑隐变量配置的调整。所以总结下来,我对LSVM的理解就是,解决没有标准的混合模型的样本数据中未知的隐变量配置问题的一种手段。不过还是想说,标注是王道啊,有标注的时候老子才不像用LSVM!
■网友
linear SVM 可以算LATENT的SVM的一个特例
在泰同学提到那篇Object Detection with Discriminatively Trained Part-Based Models 里有说
也就是说如果只有一个可能的latent value 也就是上面,latent SVMs 会退化成 linear SVMs
贴一张自己上课做presentation的slides
【啥是latent SVM】 那个objective function 看起来和普通的SVMs 是一样的,只是在标准的SVM里f 直接等于beta点乘feature vetors 而在latent SVM里 phi依赖于latent variable z 然后训练每个example的时候,都要选一个z使得f最大。之后做gradiant decent 更新 weight 的方法latent SVM 和普通的SVM是差不多的。
值得注意的是普通的SVM 是semiconvex的 (翻译成半凹?总之就是确保可以达到全局最有)但是latent SVM 需要在latent value 对于possitive example固定的时候才是semiconvex的,不然初始化的时候就要很小心,防止他陷入局部最优~
感觉上面同学的举例蛮好的 比如图像识别自行车,看图片中是否有把手 是否有轮子,而训练集是只是一些被圈起来的自行车,文章里先用一个svm粗略的检测得到一些components label 比如这些地方像把手 那些地方像轮子 然后再把 components label 加上root location 作为latent label 输入latent SVM里。
推荐阅读
- 啥是微信开发WEB前端
- 邻接表的占用空间为啥是m+n? 为啥鉴别所有edge是Θ(m+n)? 求大神指教
- 啥是网红脸你咋看待网红脸们
- 懒投资的群星计划到底算啥是股票么怎样评价群星五号今年一号开始后的狂跌
- 求助关于libsvm的predict方法的具体意义
- 啥是大数据时代。啥又叫做云商。?
- 能否详细解释下啥是“舆情分析”,互联网方面的。以及关于这方面的技术和工具
- 啥是非标品类目
- 注册Facebook,验证手机号码时收到的验证码发送方为啥是中国嘉兴的
- 啥是免费ARP数据包?
