请问ADMM可以扩展到非线性等式约束吗收敛性怎样

ALM是可以的,ADMM也应该可以,参考 Bertsekas D P. Nonlinear programming, ” 2nd edition, Athena Scientific. 1999. 图4.2.3
■网友
看题主标签中有一个机器学习就说一下自己的理解吧Admm之所以在机器学习中得到了一定的关注是因为它可以处理形如f(x)+g(x)或者f(x)+g(Ax)这种问题。当f,g,A比较复杂的时候,传统的proximal剃度下降或者坐标下降方法并不能很好的处理,而ADMM可以分开处理f,g,并且把A整合到线性约束中去,这就十分的强大了。而现阶段对于非凸的研究还是较少的,Lan Guanghui他们组证明了在线性约束下f,g非凸的收敛。至于非凸等式约束,我暂时只见过产量的l0 norm和矩阵的rank约束,但是这种也不太可能写成augmented lagrangian的形式。机器学习中的优化与纯数学中的优化还是有很大一定的差别的,因为在计算机这个committee中,大家还是关注你能不能解决计算机中的一个实际问题,你提出的优化问题是否真的有用,在这个前提下再来看如何求解,求解的效果如何。如果作者只是对这个数学问题本身就有很大的兴趣那不妨多找找相关论文看看最新的研究进展吧。
■网友
【请问ADMM可以扩展到非线性等式约束吗收敛性怎样】 自己做个总结,ADMM 可以扩展到非线性等式约束,但是这是一个非凸问题,鞍点假设成立的例子不多,所以收敛的情况不多


    推荐阅读