(新手向)能否简单易懂的介绍一下RNN(循环神经网络)( 二 )

(新手向)能否简单易懂的介绍一下RNN(循环神经网络)
,每一列代表一个词向量,词向量维度自行确定;矩阵列数固定为time_step length。 sentence2: ……step6, feed into RNNs as input: 假设 一个RNN的time_step 确定为 (新手向)能否简单易懂的介绍一下RNN(循环神经网络)
,则padded sentence length(step5中矩阵列数)固定为 (新手向)能否简单易懂的介绍一下RNN(循环神经网络)
。一次RNNs的run只处理一条sentence。每个sentence的每个token的embedding对应了每个时序 (新手向)能否简单易懂的介绍一下RNN(循环神经网络)
的输入 (新手向)能否简单易懂的介绍一下RNN(循环神经网络)
。一次RNNs的run,连续地将整个sentence处理完。step7, get output:看图,每个time_step都是可以输出当前时序 (新手向)能否简单易懂的介绍一下RNN(循环神经网络)
的隐状态 (新手向)能否简单易懂的介绍一下RNN(循环神经网络)
;但整体RNN的输出 (新手向)能否简单易懂的介绍一下RNN(循环神经网络)
是在最后一个time_step (新手向)能否简单易懂的介绍一下RNN(循环神经网络)
时获取,才是完整的最终结果。step8, further processing with the output:我们可以将output根据分类任务或回归拟合任务的不同,分别进一步处理。比如,传给cross_entropy\u0026amp;softmax进行分类……或者获取每个time_step对应的隐状态 (新手向)能否简单易懂的介绍一下RNN(循环神经网络)
,做seq2seq 网络……或者搞创新……这是基础款RNN的流程。仅仅是基础款哦,高阶的有各种创新,此处不宜展开。
基于基础款RNN,LSTM、RGU呼之欲出。至于LSTM、RGU,那就是在MLP的每个hidden cell(一个黄色circle)与下一个time_step 的hidden cell的传值机制的more sophisticated tactics。

■网友
谢邀。
我推荐cs224D教程
CS224n: Natural Language Processing with Deep Learning


■网友
网上有很多介绍了循环神经网络教程第一部分-RNN简介https://zhuanlan.zhihu.com/p/22266022?utm_source=qq\u0026amp;utm_medium=social这片介绍的很不错


推荐阅读