为啥说BP算法是链式求导法则呢
最著名的运用bp算法的是训练神经网络,如果神经网络只有一个一层,通过梯度下降可以直接调整这一层的weight,但如果有多层,需要调整各个层次的weight,所以就需要链式求导法则求出各个层的梯度
■网友
因为误差在最后一层产生,而bp需要把误差传递给每个weight。从后往前传就需要一层一层来,于是就。。
■网友
前向传播的时候是一个激活函数包一个激活函数的,误差反向传播的时候要求第一层的权值调整量需要把激活函数一层一层的剥开来及从后往前的链式的求导。
■网友
给出待优化的目标函数(所以训练样本的均方误差),然后用梯度下降法进行训练。求导的时候就是一层一层往前求导的啊,自然是用链式法则。你看一下网络权重更新的推导就明白了。
推荐阅读
- 为啥看到书柜上的藏书会有心旷神怡的感觉
- 为啥知乎上普便有一种【我在北上广深打工,所以拥有更好的视野】这样的错觉
- 为啥工商银行的用户体验如此之差
- 汽车|看了中消协4S店服务测评调查结果,终于知道法系车为啥卖不好了
- 你为啥从窝窝商城离职?
- 为啥5G和2.4G默认的BSSID是相同的
- 为啥电器实体店的价格比淘宝贵那么多
- 现在在线学习视频有很多了,为啥大部分人还是喜欢下载下来观看
- 为啥到现在你还没有女朋友 ?
- 天赐的声音|33岁张雨绮为啥总离婚?看过这些照片就明白了,都是性感惹得祸
