(新手向)能否简单易懂的介绍一下RNN(循环神经网络)( 二 )
,每一列代表一个词向量,词向量维度自行确定;矩阵列数固定为time_step length。 sentence2: ……step6, feed into RNNs as input: 假设 一个RNN的time_step 确定为
,则padded sentence length(step5中矩阵列数)固定为
。一次RNNs的run只处理一条sentence。每个sentence的每个token的embedding对应了每个时序
的输入
。一次RNNs的run,连续地将整个sentence处理完。step7, get output:看图,每个time_step都是可以输出当前时序
的隐状态
;但整体RNN的输出
是在最后一个time_step
时获取,才是完整的最终结果。step8, further processing with the output:我们可以将output根据分类任务或回归拟合任务的不同,分别进一步处理。比如,传给cross_entropy\u0026amp;softmax进行分类……或者获取每个time_step对应的隐状态
,做seq2seq 网络……或者搞创新……这是基础款RNN的流程。仅仅是基础款哦,高阶的有各种创新,此处不宜展开。
基于基础款RNN,LSTM、RGU呼之欲出。至于LSTM、RGU,那就是在MLP的每个hidden cell(一个黄色circle)与下一个time_step 的hidden cell的传值机制的more sophisticated tactics。
■网友
谢邀。
我推荐cs224D教程
CS224n: Natural Language Processing with Deep Learning
■网友
网上有很多介绍了循环神经网络教程第一部分-RNN简介https://zhuanlan.zhihu.com/p/22266022?utm_source=qq\u0026amp;utm_medium=social这片介绍的很不错
推荐阅读
- 喜欢养花必养的3种花,插叶子就能活,适合养花新手
- 新手养护花卉,就养张似白珍珠,花香袭人的花卉,美极了!
- 汽车知识|押宝全新造型,东风雪铁龙新C5能否成为神龙公司“救世主”
- 中国版Evan能火吗美国9岁男童录制评测玩具视频年入800万,中国能否复制成功
- 环球车讯网|【帮你选车】简单粗暴 前后双电机+四驱 三款纯电SUV推荐
- 汽车知识|今天教你这4种简单保养不用去4 S店,省一半钱还质保!
- 汽车市场|中期改款再战D级车市场,新雷克萨斯LS能否超过宝马7系等对手?
- |酒喝多了难受怎么办?教你几招,简单实用,让你快速醒酒,收藏了
- 孩子|小孩发烧的处理方法有物理降温与药物退烧!但很多新手父母不会
- 澎湃汽车圈|试驾名爵MG领航 运动性和实用性能否兼顾?
