假设我们的代理位于地图的左下角 , 并且必须安全地导航到绿色区块 。 必须区分规划轨迹或寻找政策 。 如果我们计划一个轨迹 , 我们将得到一个序列 , 指定应该采取行动的顺序 , 例如:(向上 , 向上 , 向右 , 向右 , 向右) 。 如果我们的问题是确定性的 , 选择一个方向会使我们的代理人在这个方向上有100%的机会 , 那么这将对应于轨迹:
但回到我们的例子 , 我们如何才能找到如上图所示的最优政策?对于称为值迭代的这类问题 , 存在一种经典算法 。 该算法的作用是计算当前处于某种状态可以实现的长期利益 , 通过提出问题"如果我从这个状态开始 , 我能获得的最大利润是多少?" 。 这个数量被称为MDP术语中的状态值 , 直观上很容易看出 , 如果我们知道每个州的价值 , 我们可以尝试始终转移到具有更高价值的国家并从中获益 。
假设我们知道问题中所有状态的最优值;V*(s) , 我们现在可以定义从我们的州采取特定行动并从此采取最佳行动的价值;Q*(S , A) 。
推荐阅读
-
北晚新视觉网|医院称需双方签字,法院这样判,女子丧偶后欲用冷冻胚胎遭拒
-
正义励志小雷|仍然是路,只要你愿意走,早安心语:路的尽头
-
-
科学家▲科学家终于找到“第二地球”,和地球十分相似,距离也很近!
-
富贵籽的养殖方法和注意事项盆栽 富贵籽正确养殖方法和注意事项
-
-
ZAKER生活|病毒“醒”了,美国民众却还沉浸在狂欢中,全美36州疫情严重反弹
-
-
-
钓友:黑坑鱼多就好钓?不一定,没掌握好这些技巧很难说
-
-
伦敦暴力事件后,特朗普称伦敦市长是个“灾难”得尽快换人
-
大洋网国际|还要买俄军装备,你来制裁啊!土耳其总统强硬回击美国警告
-
加热包可以二次使用吗 自热火锅的加热包可以二次使用吗
-
边境上的乡镇邮递员 金仁哲:30年 骑行近37万公里
-
老孙科技三星打脸,明年也要取消充电器?国产手机会跟随吗?百瓦快充时代的纠结“友商”的默契和下游产业链的春天?
-
放毒|售价仅299美元,进军千元机市场?苹果或推出下一代低价手机
-
「周末综艺指南」“短带长”策略初显效,字节跳动能打造“中国YouTube”吗?
-
「科技依依酱」3 3300X/3100看似差不多,但其核心构造却完全不同,注意!Ryzen
-
「4am战队」黄金大奖赛S9小组赛:4AM小鹿肠胃不适缺阵,98吃到加盟SMG后第一只鸡!