《动态规划问题的基本要素和最优化原理》由会员分享，可在线阅读，更多相关《动态规划问题的基本要素和最优化原理（12页珍藏版）》请在金锄头文库上搜索。
1、第二节第二节 动态规划问题的基本要素动态规划问题的基本要素和最优化原理和最优化原理2.1 动态规划的基本概念动态规划的基本概念2.2 动态规划的基本思想动态规划的基本思想2.3 建立动态规划模型的步骤建立动态规划模型的步骤 精品课程运筹学1、阶段：、阶段： 把一个问题的过程，恰当地分为若干个相互联系把一个问题的过程，恰当地分为若干个相互联系的的阶段阶段，以便于按一定的次序去求解。，以便于按一定的次序去求解。 描述阶段的变量称为描述阶段的变量称为阶段变量阶段变量。阶段的划分，一。阶段的划分，一般是根据时间和空间的自然特征来进行的，但要便般是根据时间和空间的自然特征来进行的，但要便于问题转化为多阶
2、段决策。于问题转化为多阶段决策。2、状态：表示每个阶段开始所处的、状态：表示每个阶段开始所处的自然状况或客观自然状况或客观条件条件。通常一个阶段有若干个状态，描述过程状态。通常一个阶段有若干个状态，描述过程状态的变量称为的变量称为状态变量状态变量。年、月、年、月、路段路段一个数、一个数、一组数、一组数、一个向一个向量量 状态变量的取值有一定的允许集合或范围，此状态变量的取值有一定的允许集合或范围，此集合称为集合称为状态允许集合状态允许集合。2.1 动态规划的基本概念动态规划的基本概念精品课程运筹学 3、决策：表示当过程处于某一阶段的某个状态时，、决策：表示当过程处于某一阶段的某个状态时，可以作
3、出不同的决定，从而确定下一阶段的状态可以作出不同的决定，从而确定下一阶段的状态，这这种决定称为种决定称为决策决策。 描述决策的变量，称为描述决策的变量，称为决策变量决策变量。决策变量是状态。决策变量是状态变量的函数。可用一个数、一组数或一向量（多维情变量的函数。可用一个数、一组数或一向量（多维情形）来描述。形）来描述。 在实际问题中决策变量的取值往往在某一范围之内，在实际问题中决策变量的取值往往在某一范围之内，此范围称为此范围称为允许决策集合允许决策集合。 系统在某一阶段的状态转移不但与系统的当前的状态系统在某一阶段的状态转移不但与系统的当前的状态和决策有关，而且还与系统过去的历史状态和决策有
4、和决策有关，而且还与系统过去的历史状态和决策有关。关。 4、多阶段决策过程多阶段决策过程 可以在各个阶段进行决策，去控制过程发展的多段过可以在各个阶段进行决策，去控制过程发展的多段过程；程； 其发展是通过一系列的状态转移来实现的；其发展是通过一系列的状态转移来实现的；精品课程运筹学图示如下：图示如下：状态转移方程是确定状态转移方程是确定过程由一个状态到另过程由一个状态到另一个状态的演变过程。一个状态的演变过程。如果第如果第k阶段状态变量阶段状态变量sk的值、该阶段的决策的值、该阶段的决策变量一经确定，第变量一经确定，第k+1阶段状态变量阶段状态变量sk+1的值的值也就确定。也就确定。其状态转移
5、方程如下（一般形式）其状态转移方程如下（一般形式）12ks1u1s2u2s3skuksk+1 能用动态规划方法求解的多阶段决策过程是一类能用动态规划方法求解的多阶段决策过程是一类特殊的多阶段决策过程，即特殊的多阶段决策过程，即具有无后效性具有无后效性的多阶段的多阶段决策过程。决策过程。精品课程运筹学 如果状态变量不能满足无后效性的要求，应如果状态变量不能满足无后效性的要求，应适当地改变状态的定义或规定方法。适当地改变状态的定义或规定方法。动态规划中能动态规划中能处理的状态转移处理的状态转移方程的形式方程的形式。 状态具有无后效性的多阶段决策过程的状状态具有无后效性的多阶段决策过程的状态转移方程
6、如下态转移方程如下无后效性无后效性( (马尔可夫性马尔可夫性) ) 如果某阶段状态给定后，则在这个阶段以后如果某阶段状态给定后，则在这个阶段以后过程的发展不受这个阶段以前各段状态的影响；过程的发展不受这个阶段以前各段状态的影响； 过程的过去历史只能通过当前的状态去影响过程的过去历史只能通过当前的状态去影响它未来的发展；它未来的发展； 构造动态规划模型时，要充分注意是构造动态规划模型时，要充分注意是否满足无后效性的要求；否满足无后效性的要求；状态变量要满足无后效性的要求状态变量要满足无后效性的要求；精品课程运筹学 5 5、策略：是一个按顺序排列的决策组成的集合。在、策略：是一个按顺序排列的决策组
7、成的集合。在实际问题中，可供选择的策略有一定的范围，称为实际问题中，可供选择的策略有一定的范围，称为允允许策略集合许策略集合。从允许策略集合中找出达到最优效果的。从允许策略集合中找出达到最优效果的策略称为策略称为最优策略最优策略。 6 6、状态转移方程：是确定过程由一个状态到另一个、状态转移方程：是确定过程由一个状态到另一个状态的演变过程，描述了状态转移规律。状态的演变过程，描述了状态转移规律。 7 7、指标函数和最优值函数：用来衡量所实现过程优、指标函数和最优值函数：用来衡量所实现过程优劣的一种数量指标，为劣的一种数量指标，为指标函数指标函数。指标函数的最优值，。指标函数的最优值，称为称为最
8、优值函数最优值函数。在不同的问题中，指标函数的含义。在不同的问题中，指标函数的含义是不同的，它可能是距离、利润、成本、产量或资源是不同的，它可能是距离、利润、成本、产量或资源消耗等。消耗等。 动态规划模型的指标函数，应具有可分离性，并满动态规划模型的指标函数，应具有可分离性，并满足足递推递推关系关系。精品课程运筹学小结小结: :方程方程 : :状态转移方程状态转移方程概念概念 : : 阶段变量阶段变量k k状态变量状态变量s sk k决策变量决策变量u uk k; ;指标指标: : 动态规划本质上是多阶段决策过程动态规划本质上是多阶段决策过程; ; 效益效益指标函数形式指标函数形式: : 和、
9、和、积积无后效性无后效性可递推可递推精品课程运筹学解多阶段决策过程问题，求出解多阶段决策过程问题，求出 最优策略最优策略，即最优，即最优决策序列决策序列f1(s1) 最优轨线最优轨线，即执行最优策略时的即执行最优策略时的状态序列状态序列 最优目标函数值最优目标函数值从从 k 到终点最优策略到终点最优策略子策略的最优目标函数值子策略的最优目标函数值精品课程运筹学 1、动态规划方法的关键在于正确地写出基本、动态规划方法的关键在于正确地写出基本的递推关系式和恰当的边界条件（简称基本方的递推关系式和恰当的边界条件（简称基本方程）。要做到这一点，就必须将问题的过程分程）。要做到这一点，就必须将问题的过程
10、分成几个相互联系的阶段，恰当的选取状态变量成几个相互联系的阶段，恰当的选取状态变量和决策变量及定义最优值函数，从而把一个大和决策变量及定义最优值函数，从而把一个大问题转化成一组同类型的子问题，然后逐个求问题转化成一组同类型的子问题，然后逐个求解。即从边界条件开始，逐段递推寻优，在每解。即从边界条件开始，逐段递推寻优，在每一个子问题的求解中，均利用了它前面的子问一个子问题的求解中，均利用了它前面的子问题的最优化结果，依次进行，最后一个子问题题的最优化结果，依次进行，最后一个子问题所得的最优解，就是整个问题的最优解。所得的最优解，就是整个问题的最优解。2.2 动态规划的基本思想动态规划的基本思想精
11、品课程运筹学 2、在多阶段决策过程中，动态规划方法是既把当前一段、在多阶段决策过程中，动态规划方法是既把当前一段和未来一段分开，又把当前效益和未来效益结合起来考虑的和未来一段分开，又把当前效益和未来效益结合起来考虑的一种最优化方法。因此，每段决策的选取是从全局来考虑的，一种最优化方法。因此，每段决策的选取是从全局来考虑的，与该段的最优选择答案一般是不同的与该段的最优选择答案一般是不同的. 最优化原理：作为整个过程的最优策略具有这样最优化原理：作为整个过程的最优策略具有这样的性质：无论过去的状态和决策如何，相对于前面的性质：无论过去的状态和决策如何，相对于前面的决策所形成的状态而言，余下的决策序
12、列必然构的决策所形成的状态而言，余下的决策序列必然构成最优子策略。成最优子策略。”也就是说，一个最优策略的子策也就是说，一个最优策略的子策略也是最优的。略也是最优的。 3、在求整个问题的最优策略时，由于初始状态是已知的，、在求整个问题的最优策略时，由于初始状态是已知的，而每段的决策都是该段状态的函数，故最优策略所经过的各而每段的决策都是该段状态的函数，故最优策略所经过的各段状态便可逐段变换得到，从而确定了最优路线。段状态便可逐段变换得到，从而确定了最优路线。精品课程运筹学2.3 建立动态规划模型的步骤建立动态规划模型的步骤 1 1、划分阶段、划分阶段 划划分分阶阶段段是是运运用用动动态态规规划
13、划求求解解多多阶阶段段决决策策问问题题的的第第一一步步，在在确确定定多多阶阶段段特特性性后后，按按时时间间或或空空间间先先后后顺顺序序，将将过过程程划划分分为为若若干干相相互互联联系系的的阶阶段段。对对于于静静态态问问题题要要人人为为地地赋赋予予“时间时间”概念，以便划分阶段。概念，以便划分阶段。 2 2、正确选择状态变量、正确选择状态变量 选选择择变变量量既既要要能能确确切切描描述述过过程程演演变变又又要要满满足足无无后后效效性性，而而且且各各阶阶段段状状态态变变量量的的取取值值能能够够确确定定。一一般般地地，状状态态变变量量的选择是从过程演变的特点中寻找。的选择是从过程演变的特点中寻找。
14、3 3、确定决策变量及允许决策集合、确定决策变量及允许决策集合 通通常常选选择择所所求求解解问问题题的的关关键键变变量量作作为为决决策策变变量量，同同时时要给出决策变量的取值范围，即确定允许决策集合。要给出决策变量的取值范围，即确定允许决策集合。精品课程运筹学 4 4、确定状态转移方程、确定状态转移方程 根据根据k k 阶段状态变量和决策变量，写出阶段状态变量和决策变量，写出k+1k+1阶段状态阶段状态变量变量，状态转移方程应当具有递推关系。状态转移方程应当具有递推关系。 5 5、确定阶段指标函数和最优指标函数，建立动、确定阶段指标函数和最优指标函数，建立动态规划基本方程态规划基本方程 阶段指
15、标函数是指第阶段指标函数是指第k k 阶段的收益，最优指标函数是阶段的收益，最优指标函数是指从第指从第k k 阶段状态出发到第阶段状态出发到第n n 阶段末所获得收益的最优值，阶段末所获得收益的最优值，最后写出动态规划基本方程。最后写出动态规划基本方程。 以上五步是建立动态规划数学模型的一般步骤。由于动以上五步是建立动态规划数学模型的一般步骤。由于动态规划模型与线性规划模型不同，动态规划模型没有统一的态规划模型与线性规划模型不同，动态规划模型没有统一的模式，建模时必须根据具体问题具体分析，只有通过不断实模式，建模时必须根据具体问题具体分析，只有通过不断实践总结，才能较好掌握建模方法与技巧。践总结，才能较好掌握建模方法与技巧。 精品课程运筹学
