BP神经网络与自动控制理论中‘反馈’的区别与相同之处是啥( 三 )
*关于机器学习的牛顿法和PID：
当J是凸的（有全局唯一的最小值，且这些最小值都是相邻的），二阶可导的，优化J可以用牛顿法，二分法或任意的贪婪法。当它的梯度（多元函数的导数）?J为0时代表了全局最小值。
所以优化?J，就是使?J=0，这样优化的目标就和控制相似了。这也说明，可以使用PID之类的控制器来加速收敛。但是要注意的是，机器学习中的误差函数往往对参数w是非线性的，所以PID的设计一般需要是自适应的或是稳健的，否则?J可能会不不收敛。
*关于控制和优化：
【BP神经网络与自动控制理论中‘反馈’的区别与相同之处是啥】 如果在设计控制系统的时候，也是可以通过优化方法来使控制系统达到指定的目标。这一类叫最优控制。
推荐阅读
- 家长反映老师索贿遭声讨后找人理论被拘20天？河北警方通报
- 学图像处理有哪些不错的书推荐
- 雨下|全球关于禁售燃油车只是理论上可行吗
- 你是怎样快速学习新IT（或者其他）技术（知识）的是先使用起来，还是先学理论知识有没有更好的方式
- 想做软件测试，去哪先获得点经验和理论知识?
- VR电影的创作能否用人的注意力幻象去解决一些关于焦点的理论问题类似变魔术，误导关注点但别的信息在变
- 神经网络算法是否真的属于人工智能范畴
- 是否有可能打造跨“IM软件平台”的IM软件
- vasp理论计算能从事啥样的工作
- 谷歌翻译的「整合神经网络」有多强