L1为啥是L0的最优凸近似

直接复制粘贴一段结论:L1是L0的最紧的凸放松。L1为啥是L0的最优凸近似
【L1为啥是L0的最优凸近似】
原地址:http://statweb.stanford.edu/~candes/stats300c/Lectures/Lecture24.pdf关于L1理论性质的一系列重要工作都是Emmanuel Candes做的,详细细节和相关证明可以参考他的papers。
■网友
L1解=L0解这中间要满足的条件多着呢...补充下,L1为什么能sparse,你可以看看lasso的其中一种求解法,coordinate descent。内循环更新每一个coefficient 时,都能写成soft thresholding的形式。通过soft threshoding,我们是能得到\\hat{\\beta}_{j} = 0的。(这种解释不太严谨)L0 = L1主要是compressed sensing在搞,Statistical Learning with Sparsity这本新书第十章有讲。不过这本书就这一章错误很多(包括习题),我们上课讲到这块时花了好长时间帮作者勘误...
■网友
感觉不像是最优近似,从范数的意义上讲,lp问题p趋于零才是最优逼近。有个报告貌似是0.135时最好,由西安交大数学系彭济根老师做的,真实性题主考证。l1逼近l0是为了作凸,优化的工具能用得上,l0是NP.补一句,如某位答者所说,条件多着呢。不过有个结论是,数据量巨大时候,l1才算好的逼近。


    推荐阅读