量子位 机器学习人门贴送上,看完发现RNN原来是这样( 二 )
预处理
首先 , 我们要先进行一些预处理——将数据集转化为可用的格式 。 因为RNN暂且还不能识别单词 , 所以 , 我们需要构建一个所有单词的词汇表 , 并给它编号 。
在词汇表中 , 有18个单词 , 那就意味着每一个单词是一个x , 那么输入就是一个18维的向量 。
训练RNN
接下来 , 就是按照原始RNN所需的3个权重 , 与2个偏差开始 。
就是我们前面见过的公式 。

文章图片
就像此前训练CNN一样 , 训练RNN , 首先需要一个损失函数 。
此次将使用交叉熵损失与Softmax联合计算:

文章图片
(其中c表示某个文本标签 , 比如correct)
举个例子 , 如果一个肯定文本测试显示有90%的概率是肯定的 , 那么它的损失函数是:

文章图片
计算了损失函数以后 , 就要利用梯度下降的训练来减小损失 。
接下来 , 就涉及到多变量演算 , 计算思路跟之前的一样 , 只是具体计算公式有所不同 。 详情就戳下方链接 。
训练之后 , 别忘了 , 还需要进行一番测试哦~
好了 , 今天有关RNN介绍 , 就到这里了 。
推荐阅读
- 崇明区委组织部|崇明区:抓统筹 抓重点 抓融入 全面推进“四史”学习教育
- 金山区委组织部|金山区房管局:念好“三字诀”扎实推进“四史”学习教育
- 扫地机器人哪个牌子好?高效清洁首选德国大牌
- 机器人|达闼科技赴美上市一路坎坷 列入“实体名单”后会回归A股吗
- 搞笑大魔王|我的心里感觉很不是滋味啊,搞笑GIF趣图:看到老婆学习拉丁舞
- 追着幸福跑|两只“量子柴郡猫”交换笑脸
- 空心|红米K30系列之618销量冠军!学习荣耀跳水换销量?
- 光一样的少年|电商大促爆仓 智子跃迁分拣机器人直击行业痛点
- 玩玩直播|传奇:玩法师?快捷键这样设置PK最强!不来学习下吗
- 博科园量子计算机诞生,再连接光量子通信网络,就能实现量子互联网啦!
