反应策略深度强化学习的第一个主要成就是着名的DQN算法在各种Atari视频游戏中的人类水平表现 , 其中神经网络学习使用原始屏幕像素作为输入来玩游戏 。 在强化学习中 , 我们希望学习一种将状态映射到行动的政策 , 以便最大化累积的奖励 。 例如 , 在DQN论文中 , 神经网络是卷积神经网络 , 它将屏幕图像作为输入并输出可能动作的分数 。
虽然强化学习算法的设计使得该策略应该学会选择具有长期益处的行为 , 但我们从策略中获得的信息仅适用于当前状态 。 这称为响应策略 , 它是一种策略 , 将当前状态映射到应立即采取的操作 , 或映射到操作的概率分布 。
拥有完整的计划允许我们使用外部知识对其进行评估并防止采取危险行为 。 例如 , 如果自动驾驶汽车希望改变车道但是突然汽车接近非常快 , 比模拟汽车在训练期间更快 , 则外部程序可以预测当前计划的轨迹朝向碰撞并且中止操纵 。 这对于被动策略来说要困难得多 , 在这种策略中可能难以预测场景在播出之前如何结束 。
希望制定完整计划的另一个原因是它可能会使我们的政策表现更好 。 也许通过强制它提前计划 , 我们可能会限制我们的政策更加一致 , 并能够在看不见的情况下更好地调整 , 这正是我们想要的 。
马尔可夫决策过程规划问题的一个非常常见的模型是马尔可夫决策过程 , 即MDP 。 在MDP中 , 我们将世界定义为一组状态S , 一组可能采取的行动A , 一个奖励函数R和一个过渡模型P.它们一起构成了元组:
推荐阅读
-
白羊座|未来一周,真爱敲门,月老见证,爱情终于有结果的4大星座
-
足球星世界|索尔斯克亚迎救星,截胡利物浦!曼联抢24岁边路狂魔
-
-
公司|焦点科技:沈锦华与黄良发减持计划完成,减持约379万股
-
-
[延迟退休年龄]延迟退休出新动态,跟每个人都息息相关,现在知
-
中国驻卢旺达大使在卢主流媒体发表署名文章《香港国安法的重要意义》
-
-
合作|尚纬股份:戚薇等签约艺人未与重组公司或“抖音”平台签订独家合作协议
-
人民日报|前8月全国城市空气质量优良天数占86.7%
-
“把房子借给小姑子住,因为3000元物业费,我把她直接赶走”
-
-
-
民进党|港媒:5名乱港分子偷渡台湾后被禁止外联,民进党下达“封口令”
-
央视|南非新增11554例新冠肺炎确诊病例 累计287796例
-
美国取消价值773亿元的高铁项目,竟因不够钱了,要求助中国?
-
-
一致行动|容大感光:5%以上股东、一致行动人之一林海望质押150万股
-
-
大话西游|大话西游2:牛图(68)金鳞砍龙、力魔展示,“耻辱”武器诞生