假设我们的代理位于地图的左下角 , 并且必须安全地导航到绿色区块 。 必须区分规划轨迹或寻找政策 。 如果我们计划一个轨迹 , 我们将得到一个序列 , 指定应该采取行动的顺序 , 例如:(向上 , 向上 , 向右 , 向右 , 向右) 。 如果我们的问题是确定性的 , 选择一个方向会使我们的代理人在这个方向上有100%的机会 , 那么这将对应于轨迹:
但回到我们的例子 , 我们如何才能找到如上图所示的最优政策?对于称为值迭代的这类问题 , 存在一种经典算法 。 该算法的作用是计算当前处于某种状态可以实现的长期利益 , 通过提出问题"如果我从这个状态开始 , 我能获得的最大利润是多少?" 。 这个数量被称为MDP术语中的状态值 , 直观上很容易看出 , 如果我们知道每个州的价值 , 我们可以尝试始终转移到具有更高价值的国家并从中获益 。
假设我们知道问题中所有状态的最优值;V*(s) , 我们现在可以定义从我们的州采取特定行动并从此采取最佳行动的价值;Q*(S , A) 。
推荐阅读
-
47岁林心如也发腮了!罕见穿红裙扮嫩真显黑,口红粘牙更尴尬
-
建设银行南昌分行|建行南昌分行金融活水精准支持稳企业保就业
-
「大黄蜂」国际米兰 2:0 多特蒙德,连战劲旅,大黄蜂有心无力
-
科罗廖夫|为何只有歼10和歼20采用,我国重型战机从来不用,野兽模式那么好
-
-
-
#父母#父母若有以下特征,女儿容易早嫁远嫁,婚后甚至不想回娘家
-
-
风云点兵|获得全体免疫,继续保持示威活动,美国要牺牲20%的海军士兵
-
北京青年报|当代年轻人“养生”现状:咖啡泡枸杞不是开玩笑
-
三元娱乐|30岁金晨穿两条裤子出门,看清未修图后,我情不自禁地笑了
-
内分泌科胡医生|想要孩子健康成长,除了饮食,还要注意睡眠情况
-
在SKD(北京大连上海长沙)做作品集值吗怎样评价SKD的授课老师
-
『海峡军武』暗示意大利不要被迷惑,法国总统公开谴责
-
-
-
热带森林探险有哪些注意事项 热带森林探险有哪些注意事项图片
-
-
『新力聊教育』孩子即将上学,这份指南请收好,多地再次延迟开学
-