求解方程时，除了用牛顿法，可否使用梯度下降法
两种方法都是可以的。如果我没有记错的话，第二种formulation是MATLAB的函数fsolve里面采用的。然后fsolve可以选择各种不同的优化算法（基于包括Newton和梯度下降等不同方法的算法）作为option.详见： Solve system of nonlinear equations 关于Newton方法和梯度下降法的区别，我是这样理解的:梯度下降法的思路是沿着梯度下降方向搜索求解。所以这里只需要梯度信息，不需要求逆运算。Newton方法的思路是在每一步都尝试用一个线性函数
去逼近
。线性化逼近的过程中会出现梯度。接着，对这个线性函数进行求解。这也就是为什么会出现对于梯度的求逆运算。由此可见两种方法都用到了梯度，都是gradient-based。然而，虽然他们表达式看起来有些类似，但是他们实际使用梯度的思路是不同的。这两种方法各有特点，网上有很多相关资料可以参考, 在此我就不评论了。
■网友
今天看书《应用非线性控制》slotine，发现了一个地方，特地再回来回答一下，供参考。
【求解方程时，除了用牛顿法，可否使用梯度下降法】 在自适应控制参数更新的方法中，就有专门的一个条目叫做『梯度下降法』，中文版章节是8.7.3
推荐阅读
- 人类能证明除了自己，其他人也有意识吗（我有意识，其他人也一定有这种方式不算）
- 均值|看看你掌握了几种吧！高中数学：八种方法求解均值不等式
- 方程|高考数学坐标系与参数方程知识点总结！速速收藏！
- 我有个淘宝店，但是没有货源咋办求解救
- 鬼斗车|最有背景却仍籍籍无名 这款车除了高颜值 还有些什么？
- 资本|仅剩沉默的大多数在线教育融资2020：除了资本青睐的独角兽
- 方程|送给所有高考生！高中数学所有公式大合集
- 在cs行业工作是一种啥体检
- 大事|还将有这些大事需要注意！12月除了冬令营集体爆发
- 除了那些比较有名的教育机构，有啥别的国考培训班么，最好是重点批改申论题的