为啥说BP算法是链式求导法则呢

最著名的运用bp算法的是训练神经网络,如果神经网络只有一个一层,通过梯度下降可以直接调整这一层的weight,但如果有多层,需要调整各个层次的weight,所以就需要链式求导法则求出各个层的梯度
■网友
因为误差在最后一层产生,而bp需要把误差传递给每个weight。从后往前传就需要一层一层来,于是就。。
■网友
前向传播的时候是一个激活函数包一个激活函数的,误差反向传播的时候要求第一层的权值调整量需要把激活函数一层一层的剥开来及从后往前的链式的求导。
■网友
给出待优化的目标函数(所以训练样本的均方误差),然后用梯度下降法进行训练。求导的时候就是一层一层往前求导的啊,自然是用链式法则。你看一下网络权重更新的推导就明白了。


    推荐阅读