动态规划和贪心法的区别

(1) 动态规划的Bellman Equation 可以写成如下形式:
动态规划和贪心法的区别

其中, 动态规划和贪心法的区别
代表在 动态规划和贪心法的区别
时刻状态 动态规划和贪心法的区别
下的价值函数。注意,在动态规划里我们假定给定状态 动态规划和贪心法的区别
以及行动 动态规划和贪心法的区别
,在下一时刻( 动态规划和贪心法的区别
)转移到状态 动态规划和贪心法的区别
的概率是 动态规划和贪心法的区别
(deterministic).
(2) 如果考虑更一般化的情况(状态转移不确定,服从一定概率分布),我们可以把上面的Bellman Equation 写成如下形式(Markov decision process, MDP):
动态规划和贪心法的区别

(3) 如果对于(2)中一个MDP问题,我们考虑它的时间价值,比如加上一个 动态规划和贪心法的区别
(discount rate, 动态规划和贪心法的区别
),那么之前的公式可以写成:
动态规划和贪心法的区别

好了,到了这一步,我们可以很清楚地看到贪婪算法和DP在求解思路上的差异,对于一个如(3)中的MDP问题,每一步我们需要做的是最大化当期收益,以及未来期望收益。并且这个未来期望收益是考虑时间价值的(10年后的100块不等于现在的100块)。而贪婪算法,只考虑最大化当前收益。

什么时候这两种策略能得到同样结果?
结论1:如果我们另 动态规划和贪心法的区别
, 即未来的收益是0,那么DP得到的结果和贪婪算法得到的结果是相等的。
结论2:对于 动态规划和贪心法的区别
每一时刻,如果贪婪最优恰巧也是Bellman最优时,所得到的策略相同。
从数学角度上讲,如果对于问题(3)中的Bellman Equation,存在最优行动 动态规划和贪心法的区别
动态规划和贪心法的区别

动态规划和贪心法的区别

并且 动态规划和贪心法的区别
的话,我们也可以说在


推荐阅读