第11章贪心算法精.ppt

第11章贪心算法2022/12/31第1页，本讲稿共58页学习要点学习要点理解贪心算法的概念。理解贪心算法的概念。掌握贪心算法的基本要素掌握贪心算法的基本要素 最优子结构性质最优子结构性质贪心选择性质贪心选择性质理解贪心算法与动态规划算法的差异理解贪心算法与动态规划算法的差异理解贪心算法的一般理论理解贪心算法的一般理论通过应用范例学习贪心设计策略。通过应用范例学习贪心设计策略。活动安排问题；活动安排问题；最优装载问题；最优装载问题；哈夫曼编码；哈夫曼编码；单源最短路径；单源最短路径；最小生成树；最小生成树；多机调度问题。多机调度问题。贪心算法贪心算法2022/12/32第2页，本讲稿共58页 顾名思义，贪心算法总是作出在当前看来最好的选择。顾名思义，贪心算法总是作出在当前看来最好的选择。也就是说贪心算法并不从整体最优考虑，它所作出的选择也就是说贪心算法并不从整体最优考虑，它所作出的选择只是在某种意义上的只是在某种意义上的局部最优局部最优选择。当然，希望贪心算法得选择。当然，希望贪心算法得到的最终结果也是整体最优的。虽然贪心算法不能对所有到的最终结果也是整体最优的。虽然贪心算法不能对所有问题都得到整体最优解，但对许多问题它能产生整体最优问题都得到整体最优解，但对许多问题它能产生整体最优解。如单源最短路经问题，最小生成树问题等。在一些情解。如单源最短路经问题，最小生成树问题等。在一些情况下，即使贪心算法不能得到整体最优解，其最终结果却况下，即使贪心算法不能得到整体最优解，其最终结果却是最优解的很好近似。是最优解的很好近似。贪心算法贪心算法2022/12/33第3页，本讲稿共58页活动安排问题活动安排问题 活动安排问题就是要在所给的活动集合中选出最大的相活动安排问题就是要在所给的活动集合中选出最大的相容活动子集合，是可以用贪心算法有效求解的很好例子。该问容活动子集合，是可以用贪心算法有效求解的很好例子。该问题要求高效地安排一系列争用某一公共资源的活动。贪心算法题要求高效地安排一系列争用某一公共资源的活动。贪心算法提供了一个简单、漂亮的方法使得尽可能多的活动能兼容地使提供了一个简单、漂亮的方法使得尽可能多的活动能兼容地使用公共资源。用公共资源。2022/12/34第4页，本讲稿共58页活动安排问题活动安排问题 设有设有n n个活动的集合个活动的集合E=1,2,E=1,2,n,n，其中每个活动都要求使，其中每个活动都要求使用同一资源，如演讲会场等，而在同一时间内只有一个活动能用同一资源，如演讲会场等，而在同一时间内只有一个活动能使用这一资源。每个活动使用这一资源。每个活动i i都有一个要求使用该资源的起始时间都有一个要求使用该资源的起始时间sisi和一个结束时间和一个结束时间fi,fi,且且si fisi fi 。如果选择了活动。如果选择了活动i i，则它在半开，则它在半开时间区间时间区间si,fi)si,fi)内占用资源。若区间内占用资源。若区间si,fi)si,fi)与区间与区间sj,sj,fj)fj)不相交，则称活动不相交，则称活动i i与活动与活动j j是相容的。也就是说，当是相容的。也就是说，当sifjsifj或或sjfisjfi时，活动时，活动i i与活动与活动j j相容。相容。2022/12/35第5页，本讲稿共58页活动安排问题活动安排问题ntemplatenvoid GreedySelector(int n,Type s,Type f,bool A)nn A1=true;n int j=1;n for(int i=2;i=fj)Ai=true;j=i;n else Ai=false;n n解活动安排问题的贪心算法解活动安排问题的贪心算法GreedySelectorGreedySelector:各活动的起始时间和结束时间各活动的起始时间和结束时间存储于数组存储于数组s s和和f f中且按结束时间中且按结束时间的非减序排列的非减序排列 2022/12/36第6页，本讲稿共58页活动安排问题活动安排问题 由于输入的活动以其完成时间的由于输入的活动以其完成时间的非减序非减序排列，所以算排列，所以算法法greedySelectorgreedySelector每次总是选择每次总是选择具有最早完成时间具有最早完成时间的相容活动的相容活动加入集合加入集合A A中。直观上，按这种方法选择相容活动为未安排活动留下中。直观上，按这种方法选择相容活动为未安排活动留下尽可能多的时间。也就是说，该算法的贪心选择的意义是尽可能多的时间。也就是说，该算法的贪心选择的意义是使剩余的使剩余的可安排时间段极大化可安排时间段极大化，以便安排尽可能多的相容活动。，以便安排尽可能多的相容活动。算法算法greedySelectorgreedySelector的效率极高。当输入的活动已按结的效率极高。当输入的活动已按结束时间的非减序排列，算法只需束时间的非减序排列，算法只需O(n)O(n)的时间安排的时间安排n n个活动，使个活动，使最多的活动能相容地使用公共资源。如果所给出的活动未按非最多的活动能相容地使用公共资源。如果所给出的活动未按非减序排列，可以用减序排列，可以用O(nlogn)O(nlogn)的时间重排。的时间重排。2022/12/37第7页，本讲稿共58页活动安排问题活动安排问题 例：设待安排的例：设待安排的1111个活动的开始时间和结束时间按结个活动的开始时间和结束时间按结束时间的非减序排列如下：束时间的非减序排列如下：i1234567891011Si130535688212fi45678910111213142022/12/38第8页，本讲稿共58页活动安排问题活动安排问题 算法算法greedySelector greedySelector 的计的计算过程算过程如左图所示。如左图所示。图中每行相应于算法的一图中每行相应于算法的一次迭代。阴影长条表示的活动次迭代。阴影长条表示的活动是已选入集合是已选入集合A A的活动，而空的活动，而空白长条表示的活动是当前正在白长条表示的活动是当前正在检查相容性的活动。检查相容性的活动。2022/12/39第9页，本讲稿共58页活动安排问题活动安排问题 若被检查的活动若被检查的活动i i的开始时间的开始时间SiSi小于最近选择的活动小于最近选择的活动j j的结束时的结束时间间fifi，则不选择活动，则不选择活动i i，否则选择活动，否则选择活动i i加入集合加入集合A A中。中。贪心算法并不总能求得问题的贪心算法并不总能求得问题的整体最优解整体最优解。但对于活动安。但对于活动安排问题，贪心算法排问题，贪心算法greedySelectorgreedySelector却总能求得的整体最优解，即它最却总能求得的整体最优解，即它最终所确定的相容活动集合终所确定的相容活动集合A A的规模最大。这个结论可以用数学归纳法的规模最大。这个结论可以用数学归纳法证明。证明。2022/12/310第10页，本讲稿共58页贪心算法的基本要素贪心算法的基本要素 着重讨论可以用贪心算法求解的问题的一般特征。着重讨论可以用贪心算法求解的问题的一般特征。对于一个具体的问题，怎么知道是否可用贪心算法解此问题，对于一个具体的问题，怎么知道是否可用贪心算法解此问题，以及能否得到问题的最优解呢以及能否得到问题的最优解呢?这个问题很难给予肯定的回答。这个问题很难给予肯定的回答。但是，从许多可以用贪心算法求解的问题中看到这类问但是，从许多可以用贪心算法求解的问题中看到这类问题一般具有题一般具有2 2个重要的性质：个重要的性质：贪心选择性质贪心选择性质和和最优子结构性质。最优子结构性质。2022/12/311第11页，本讲稿共58页贪心算法的基本要素贪心算法的基本要素贪心选择性质贪心选择性质 所谓所谓贪心选择性质贪心选择性质是指所求问题的是指所求问题的整体最优解整体最优解可以通过一系列可以通过一系列局局部最优部最优的选择，即贪心选择来达到。这是贪心算法可行的第一个基的选择，即贪心选择来达到。这是贪心算法可行的第一个基本要素，也是贪心算法与动态规划算法的主要区别。本要素，也是贪心算法与动态规划算法的主要区别。动态规划算法通常以动态规划算法通常以自底向上自底向上的方式解各子问题，而贪心算法则通的方式解各子问题，而贪心算法则通常以常以自顶向下自顶向下的方式进行，以迭代的方式作出相继的贪心选择，每的方式进行，以迭代的方式作出相继的贪心选择，每作一次贪心选择就将所求问题简化为规模更小的子问题。作一次贪心选择就将所求问题简化为规模更小的子问题。对于一个具体问题，要确定它是否具有贪心选择性质，必须证明对于一个具体问题，要确定它是否具有贪心选择性质，必须证明每一步所作的贪心选择最终导致问题的整体最优解。每一步所作的贪心选择最终导致问题的整体最优解。2022/12/312第12页，本讲稿共58页贪心算法的基本要素贪心算法的基本要素 当一个问题的最优解包含其子问题的最优解时，称此问当一个问题的最优解包含其子问题的最优解时，称此问题具有题具有最优子结构性质最优子结构性质。问题的最优子结构性质是该问题可用。问题的最优子结构性质是该问题可用动态规划算法或贪心算法求解的关键特征。动态规划算法或贪心算法求解的关键特征。最优子结构性质最优子结构性质2022/12/313第13页，本讲稿共58页贪心算法的基本要素贪心算法的基本要素 贪心算法和动态规划算法都要求问题具有最优子结构贪心算法和动态规划算法都要求问题具有最优子结构性质，这是性质，这是2 2类算法的一个共同点。但是，对于具有类算法的一个共同点。但是，对于具有最优子最优子结构结构的问题应该选用贪心算法还是动态规划算法求解的问题应该选用贪心算法还是动态规划算法求解?是否能用是否能用动态规划算法求解的问题也能用贪心算法求解动态规划算法求解的问题也能用贪心算法求解?下面研究下面研究2 2个经典个经典的的组合优化问题组合优化问题，并以此说明贪心算法与动态规划算法的主要，并以此说明贪心算法与动态规划算法的主要差别。差别。贪心算法与动态规划算法的差异贪心算法与动态规划算法的差异2022/12/314第14页，本讲稿共58页贪心算法的基本要素贪心算法的基本要素0-10-1背包问题：背包问题：给定给定n n种物品和一个背包。物品种物品和一个背包。物品i i的重量是的重量是WiWi，其价值为，其价值为ViVi，背包的，背包的容量为容量为C C。应如何选择装入背包的物品，使得装入背包中物品的总价值。应如何选择装入背包的物品，使得装入背包中物品的总价值最大最大?在选择装入背包的物品时，对每种物品在选择装入背包的物品时，对每种物品i i只有只有2 2种选择，种选择，即装入背包或不装入背包。不能将物品即装入背包或不装入背包。不能将物品i i装入背包多次，也不装入背包多次，也不能只装入部分的物品能只装入部分的物品i i。2022/12/315第15页，本讲稿共58页贪心算法的基本要素贪心算法的基本要素背包问题：背包问题：与与0-10-1背包问题类似，所不同的是在选择物品背包问题类似，所不同的是在选择物品i i装入背包时，装入背包时，可以选择物品可以选择物品i i的一部分，的一部分，而不一定要全部装入背包，而不一定要全部装入背包，1in1in。这这2 2类问题都具有类问题都具有最优子结构最优子结构性质，极为相似，但背包问性质，极为相似，但背包问题可以用贪心算法求解，而题可以用贪心算法求解，而0-10-1背包问题却不能用贪心算法求背包问题却不能用贪心算法求解。解。2022/12/316第16页，本讲稿共58页贪心算法的基本要素贪心算法的基本要素 首先计算每种物品单位重量的价值首先计算每种物品单位重量的价值Vi/WiVi/Wi，然后，依贪心选择策，然后，依贪心选择策略，将尽可能多的略，将尽可能多的单位重量价值最高单位重量价值最高的物品装入背包。若将这的物品装入背包。若将这种物品全部装入背包后，背包内的物品总重量未超过种物品全部装入背包后，背包内的物品总重量未超过C C，则选，则选择单位重量价值次高的物品并尽可能多地装入背包。依此策择单位重量价值次高的物品并尽可能多地装入背包。依此策略一直地进行下去，直到背包装满为止。略一直地进行下去，直到背包装满为止。具体算法可描述如下页：具体算法可描述如下页：用贪心算法解背包问题的基本步骤：用贪心算法解背包问题的基本步骤：2022/12/317第17页，本讲稿共58页贪心算法的基本要素贪心算法的基本要素void Knapsack(int n,float M,float v,float w,float x)Sort(n,v,w);int i;for(i=1;i=n;i+)xi=0;float c=M;for(i=1;ic)break;xi=1;c-=wi;if(i=n)xi=c/wi;算法算法knapsackknapsack的主的主要计算时间在于将各种物要计算时间在于将各种物品依其单位重量的价值从品依其单位重量的价值从大到小排序。因此，算法大到小排序。因此，算法的计算时间上界为的计算时间上界为O O（nlognnlogn）。）。为了证明算法的正确为了证明算法的正确性，还必须证明背包问性，还必须证明背包问题具有贪心选择性质。题具有贪心选择性质。2022/12/318第18页，本讲稿共58页贪心算法的基本要素贪心算法的基本要素 对于对于0-10-1背包问题背包问题，贪心选择之所以不能得到最优解是因为在这，贪心选择之所以不能得到最优解是因为在这种情况下，它无法保证最终能将背包装满，部分闲置的背包空间使种情况下，它无法保证最终能将背包装满，部分闲置的背包空间使每公斤背包空间的价值降低了。事实上，在考虑每公斤背包空间的价值降低了。事实上，在考虑0-10-1背包问题时，背包问题时，应比较选择该物品和不选择该物品所导致的最终方案，然后再作出应比较选择该物品和不选择该物品所导致的最终方案，然后再作出最好选择。由此就导出许多互相重叠的子问题。这正是该问题可用最好选择。由此就导出许多互相重叠的子问题。这正是该问题可用动态规划算法动态规划算法求解的另一重要特征。求解的另一重要特征。实际上也是如此，动态规划算法的确可以有效地解实际上也是如此，动态规划算法的确可以有效地解0-10-1背包问题。背包问题。2022/12/319第19页，本讲稿共58页最优装载最优装载 有一批集装箱要装上一艘载重量为有一批集装箱要装上一艘载重量为c c的轮船。其中集装箱的轮船。其中集装箱i i的的重量为重量为WiWi。最优装载问题要求确定在装载体积不受限制的情况下，。最优装载问题要求确定在装载体积不受限制的情况下，将尽可能多的集装箱装上轮船。将尽可能多的集装箱装上轮船。1 1、算法描述、算法描述最优装载问题可用贪心算法求解。采用重量最轻者先装最优装载问题可用贪心算法求解。采用重量最轻者先装的贪心选择策略，可产生最优装载问题的最优解。具体算法的贪心选择策略，可产生最优装载问题的最优解。具体算法描述如下页。描述如下页。2022/12/320第20页，本讲稿共58页最优装载最优装载templatevoid Loading(int x,Type w,Type c,int n)int*t=new int n+1;Sort(w,t,n);for(int i=1;i=n;i+)xi=0;for(int i=1;i=n&wti=c;i+)xti=1;c-=wti;2022/12/321第21页，本讲稿共58页最优装载最优装载2 2、贪心选择性质、贪心选择性质 可以证明最优装载问题具有贪心选择性质。可以证明最优装载问题具有贪心选择性质。3 3、最优子结构性质、最优子结构性质最优装载问题具有最优子结构性质。最优装载问题具有最优子结构性质。由最优装载问题的贪心选择性质和最优子结构性质，容易由最优装载问题的贪心选择性质和最优子结构性质，容易证明算法证明算法loadingloading的正确性。的正确性。算法算法loadingloading的主要计算量在于将集装箱依其重量从小到大排的主要计算量在于将集装箱依其重量从小到大排序，故算法所需的计算时间为序，故算法所需的计算时间为 O(nlogn)O(nlogn)。2022/12/322第22页，本讲稿共58页哈夫曼编码哈夫曼编码哈夫曼编码哈夫曼编码是广泛地用于数据文件压缩的十分有效的编码方法。是广泛地用于数据文件压缩的十分有效的编码方法。其压缩率通常在其压缩率通常在20%20%90%90%之间。哈夫曼编码算法用字符在文件中出现之间。哈夫曼编码算法用字符在文件中出现的频率表来建立一个用的频率表来建立一个用0 0，1 1串表示各字符的最优表示方式。串表示各字符的最优表示方式。给出现频率高的字符较短的编码，出现频率较低的字符给出现频率高的字符较短的编码，出现频率较低的字符以较长的编码，可以大大缩短总码长。以较长的编码，可以大大缩短总码长。1 1、前缀码、前缀码对每一个字符规定一个对每一个字符规定一个0,10,1串作为其代码，并要求任一字符串作为其代码，并要求任一字符的代码都不是其它字符代码的前缀。这种编码称为的代码都不是其它字符代码的前缀。这种编码称为前缀码前缀码。2022/12/323第23页，本讲稿共58页哈夫曼编码哈夫曼编码 编码的前缀性质可以使译码方法非常简单。编码的前缀性质可以使译码方法非常简单。表示表示最优前缀码最优前缀码的二叉树总是一棵的二叉树总是一棵完全二叉树完全二叉树，即树中任一结，即树中任一结点都有点都有2 2个儿子结点。个儿子结点。平均码长平均码长定义为：定义为：使平均码长达到最小的前缀码编码方案称为给定编码字符集使平均码长达到最小的前缀码编码方案称为给定编码字符集C C的的最最优前缀码优前缀码。2022/12/324第24页，本讲稿共58页哈夫曼编码哈夫曼编码2 2、构造哈夫曼编码、构造哈夫曼编码哈夫曼提出构造最优前缀码的贪心算法，由此产生的编码方案哈夫曼提出构造最优前缀码的贪心算法，由此产生的编码方案称为称为哈夫曼编码哈夫曼编码。哈夫曼算法以自底向上的方式构造表示最优前缀码的二叉树哈夫曼算法以自底向上的方式构造表示最优前缀码的二叉树T T。算法以算法以|C|C|个叶结点开始，执行个叶结点开始，执行|C|C|1 1次的次的“合并合并”运算运算后产生最终所要求的树后产生最终所要求的树T T。2022/12/325第25页，本讲稿共58页哈夫曼编码哈夫曼编码 在书上给出的算法在书上给出的算法huffmanTreehuffmanTree中，编码字符集中每一字符中，编码字符集中每一字符c c的频率是的频率是f(c)f(c)。以以f f为键值的优先队列为键值的优先队列Q Q用在用在贪心选择贪心选择时有效地时有效地确定算法当前要合并的确定算法当前要合并的2 2棵具有最小频率的树。一旦棵具有最小频率的树。一旦2 2棵具有最棵具有最小频率的树合并后，产生一棵新的树，其频率为合并的小频率的树合并后，产生一棵新的树，其频率为合并的2 2棵树的棵树的频率之和，并将新树插入优先队列频率之和，并将新树插入优先队列Q Q。经过。经过n n1 1次的合并后，优次的合并后，优先队列中只剩下一棵树，即所要求的树先队列中只剩下一棵树，即所要求的树T T。算法算法huffmanTreehuffmanTree用最小堆实现优先队列用最小堆实现优先队列Q Q。初始化优先队。初始化优先队列需要列需要O(n)O(n)计算时间，由于最小堆的计算时间，由于最小堆的removeMinremoveMin和和putput运算均需运算均需O(logn)O(logn)时间，时间，n n1 1次的合并总共需要次的合并总共需要O(nlogn)O(nlogn)计算时间。因此，计算时间。因此，关于关于n n个字符的哈夫曼算法的个字符的哈夫曼算法的计算时间计算时间为为O(nlogn)O(nlogn)。2022/12/326第26页，本讲稿共58页哈夫曼编码哈夫曼编码3 3、哈夫曼算法的正确性、哈夫曼算法的正确性要证明哈夫曼算法的正确性，只要证明最优前要证明哈夫曼算法的正确性，只要证明最优前缀码问题具有缀码问题具有贪心选择性质贪心选择性质和和最优子结构性质最优子结构性质。(1)(1)贪心选择性质贪心选择性质(2)(2)最优子结构性质最优子结构性质2022/12/327第27页，本讲稿共58页单源最短路径单源最短路径给定带权有向图给定带权有向图G=(V,E)G=(V,E)，其中每条边的权是非负实数。另，其中每条边的权是非负实数。另外，还给定外，还给定V V中的一个顶点，称为中的一个顶点，称为源源。现在要计算从源到所有其它各。现在要计算从源到所有其它各顶点的顶点的最短路长度最短路长度。这里路的长度是指路上各边权之和。这个问题。这里路的长度是指路上各边权之和。这个问题通常称为通常称为单源最短路径问题单源最短路径问题。1 1、算法基本思想、算法基本思想DijkstraDijkstra算法是解单源最短路径问题的贪心算法。算法是解单源最短路径问题的贪心算法。2022/12/328第28页，本讲稿共58页单源最短路径单源最短路径其其基本思想基本思想是，设置顶点集合是，设置顶点集合S S并不断地作并不断地作贪心选择贪心选择来扩充这来扩充这个集合。一个顶点属于集合个集合。一个顶点属于集合S S当且仅当从源到该顶点的最短路径长度已当且仅当从源到该顶点的最短路径长度已知。知。初始时，初始时，S S中仅含有源。设中仅含有源。设u u是是G G的某一个顶点，把从源到的某一个顶点，把从源到u u且中且中间只经过间只经过S S中顶点的路称为从源到中顶点的路称为从源到u u的特殊路径，并用数组的特殊路径，并用数组distdist记录记录当前每个顶点所对应的最短特殊路径长度。当前每个顶点所对应的最短特殊路径长度。DijkstraDijkstra算法每次从算法每次从V-SV-S中取出具有最短特殊路长度的顶点中取出具有最短特殊路长度的顶点u u，将，将u u添加到添加到S S中，同时对数组中，同时对数组distdist作必要的修改。一旦作必要的修改。一旦S S包含了所有包含了所有V V中顶点，中顶点，distdist就记录了从源就记录了从源到所有其它顶点之间的最短路径长度。到所有其它顶点之间的最短路径长度。2022/12/329第29页，本讲稿共58页单源最短路径单源最短路径例如例如，对右图中的有，对右图中的有向图，应用向图，应用DijkstraDijkstra算法算法计算从源顶点计算从源顶点1 1到其它顶到其它顶点间最短路径的过程列在点间最短路径的过程列在下页的表中。下页的表中。2022/12/330第30页，本讲稿共58页单源最短路径单源最短路径迭代迭代S Su udist2dist2dist3dist3dist4dist4dist5dist5初始初始11-1010maxintmaxint30301001001 11,21,22 21010606030301001002 21,2,41,2,44 410105050303090903 31,2,4,31,2,4,33 310105050303060604 41,2,4,3,51,2,4,3,55 51010505030306060DijkstraDijkstra算法的迭代过程：算法的迭代过程：2022/12/331第31页，本讲稿共58页单源最短路径单源最短路径2 2、算法的正确性和计算复杂性、算法的正确性和计算复杂性(1)(1)贪心选择性质贪心选择性质(2)(2)最优子结构性质最优子结构性质(3)(3)计算复杂性计算复杂性对于具有对于具有n n个顶点和个顶点和e e条边的带权有向图，如果用带权邻接矩阵表示这个图，那条边的带权有向图，如果用带权邻接矩阵表示这个图，那么么DijkstraDijkstra算法的主循环体需要算法的主循环体需要 时间。这个循环需要执行时间。这个循环需要执行n-1n-1次，所以完成循环次，所以完成循环需要需要 时间。算法的其余部分所需要时间不超过时间。算法的其余部分所需要时间不超过 。2022/12/332第32页，本讲稿共58页最小生成树最小生成树 设设G=(V,E)G=(V,E)是无向连通带权图，即一个是无向连通带权图，即一个网络网络。E E中每条边中每条边(v,w)(v,w)的权为的权为cvwcvw。如果。如果G G的子图的子图G G是一棵包含是一棵包含G G的所有顶点的所有顶点的树，则称的树，则称G G为为G G的生成树。生成树上各边权的总和称为该生成树的生成树。生成树上各边权的总和称为该生成树的的耗费耗费。在。在G G的所有生成树中，耗费最小的生成树称为的所有生成树中，耗费最小的生成树称为G G的的最小生最小生成树成树。网络的最小生成树在实际中有广泛应用。网络的最小生成树在实际中有广泛应用。例如例如，在设计通信网络，在设计通信网络时，用图的顶点表示城市，用边时，用图的顶点表示城市，用边(v,w)(v,w)的权的权cvwcvw表示建立城市表示建立城市v v和城和城市市w w之间的通信线路所需的费用，则最小生成树就给出了建立通信网络之间的通信线路所需的费用，则最小生成树就给出了建立通信网络的最经济的方案。的最经济的方案。2022/12/333第33页，本讲稿共58页最小生成树最小生成树1 1、最小生成树性质、最小生成树性质用贪心算法设计策略可以设计出构造最小生成树的有效算法。本节介绍的用贪心算法设计策略可以设计出构造最小生成树的有效算法。本节介绍的构造最小生成树的构造最小生成树的PrimPrim算法算法和和KruskalKruskal算法算法都可以看作是应用贪心算法都可以看作是应用贪心算法设计策略的例子。尽管这设计策略的例子。尽管这2 2个算法做贪心选择的方式不同，它们都利个算法做贪心选择的方式不同，它们都利用了下面的用了下面的最小生成树性质最小生成树性质：设设G=(V,E)G=(V,E)是连通带权图，是连通带权图，U U是是V V的真子集。如果的真子集。如果(u,v)(u,v)E E，且，且u u U U，v v V-UV-U，且在所有这样的边中，且在所有这样的边中，(u,v)(u,v)的权的权cuvcuv最小，那么一定存在最小，那么一定存在G G的一的一棵最小生成树，它以棵最小生成树，它以(u,v)(u,v)为其中一条边。这个性质有时也称为为其中一条边。这个性质有时也称为MSTMST性质性质。2022/12/334第34页，本讲稿共58页最小生成树最小生成树2 2、PrimPrim算法算法 设设G=(V,E)G=(V,E)是连通带权图，是连通带权图，V=1,2,V=1,2,n,n。构造构造G G的最小生成树的的最小生成树的PrimPrim算法的算法的基本思想基本思想是：首先置是：首先置S=1S=1，然后，只要，然后，只要S S是是V V的真子集，就作如下的的真子集，就作如下的贪心选择：贪心选择：选取满选取满足条件足条件i i S S，j j V-SV-S，且，且cijcij最小的边，将顶点最小的边，将顶点j j添加到添加到S S中。这个中。这个过程一直进行到过程一直进行到S=VS=V时为止。时为止。在这个过程中选取到的所有边恰好构成在这个过程中选取到的所有边恰好构成G G的一棵的一棵最小生成最小生成树。树。2022/12/335第35页，本讲稿共58页最小生成树最小生成树利用最小生成树性质利用最小生成树性质和数学归纳法容易证明，和数学归纳法容易证明，上述算法中的上述算法中的边集合边集合T T始终始终包含包含G G的某棵最小生成树中的某棵最小生成树中的边。的边。因此，在算法结束因此，在算法结束时，时，T T中的所有边构成中的所有边构成G G的的一棵最小生成树。一棵最小生成树。例如例如，对于右图中的，对于右图中的带权图，按带权图，按PrimPrim算法算法选取选取边的过程如下页图所示。边的过程如下页图所示。2022/12/336第36页，本讲稿共58页最小生成树最小生成树2022/12/337第37页，本讲稿共58页最小生成树最小生成树在上述在上述PrimPrim算法中，还应当考虑算法中，还应当考虑如何有效地找出满足条件如何有效地找出满足条件i i S,jS,j V-SV-S，且权，且权cijcij最小的边最小的边(i,j)(i,j)。实现这个目的的较简单实现这个目的的较简单的办法是设置的办法是设置2 2个数组个数组closestclosest和和lowcostlowcost。在在PrimPrim算法执行过程中，先找出算法执行过程中，先找出V-SV-S中使中使lowcostlowcost值最小的值最小的顶点顶点j j，然后根据数组，然后根据数组closestclosest选取边选取边(j,closestj(j,closestj)，最后将，最后将j j添加到添加到S S中，并对中，并对closestclosest和和lowcostlowcost作必要的修改。作必要的修改。用这个办法实现的用这个办法实现的PrimPrim算法所需的算法所需的计算时间计算时间为为 2022/12/338第38页，本讲稿共58页最小生成树最小生成树3 3、KruskalKruskal算法算法KruskalKruskal算法构造算法构造G G的最小生成树的的最小生成树的基本思想基本思想是，首先将是，首先将G G的的n n个个顶点看成顶点看成n n个孤立的连通分支。将所有的边按权从小到大排序。个孤立的连通分支。将所有的边按权从小到大排序。然后从第一条边开始，依边权递增的顺序查看每一条边，并然后从第一条边开始，依边权递增的顺序查看每一条边，并按下述方法连接按下述方法连接2 2个不同的连通分支：当查看到第个不同的连通分支：当查看到第k k条边条边(v,w)(v,w)时，如果端点时，如果端点v v和和w w分别是当前分别是当前2 2个不同的连通分支个不同的连通分支T1T1和和T2T2中的中的顶点时，就用边顶点时，就用边(v,w)(v,w)将将T1T1和和T2T2连接成一个连通分支，然后继连接成一个连通分支，然后继续查看第续查看第k+1k+1条边；如果端点条边；如果端点v v和和w w在当前的同一个连通分支中，在当前的同一个连通分支中，就直接再查看第就直接再查看第k+1k+1条边。这个过程一直进行到只剩下一个连条边。这个过程一直进行到只剩下一个连通分支时为止。通分支时为止。2022/12/339第39页，本讲稿共58页最小生成树最小生成树例如，例如，对前面的连通带权图，按对前面的连通带权图，按KruskalKruskal算法顺序得到的最小算法顺序得到的最小生成树上的边如下图所示。生成树上的边如下图所示。2022/12/340第40页，本讲稿共58页最小生成树最小生成树关于关于集合的一些基本运算集合的一些基本运算可用于实现可用于实现KruskalKruskal算法。算法。按权的递增顺序查看等价于对按权的递增顺序查看等价于对优先队列优先队列执行执行removeMinremoveMin运算。可运算。可以用以用堆堆实现这个优先队列。实现这个优先队列。对一个由连通分支组成的集合不断进行修改，需要用到抽对一个由连通分支组成的集合不断进行修改，需要用到抽象数据类型象数据类型并查集并查集UnionFindUnionFind所支持的基本运算。所支持的基本运算。当图的边数为当图的边数为e e时，时，KruskalKruskal算法所需的算法所需的计算时间计算时间是是 。当当 时，时，KruskalKruskal算法比算法比PrimPrim算法差，但当算法差，但当 时，时，KruskalKruskal算法却比算法却比PrimPrim算法好得多。算法好得多。2022/12/341第41页，本讲稿共58页多机调度问题多机调度问题多机调度问题多机调度问题要求给出一种作业调度方案，使所给的要求给出一种作业调度方案，使所给的n n个作业在个作业在尽可能短的时间内由尽可能短的时间内由m m台机器加工处理完成。台机器加工处理完成。这个问题是这个问题是NPNP完全问题完全问题，到目前为止还没有有效的解法。对于，到目前为止还没有有效的解法。对于这一类问题这一类问题,用用贪心选择策略贪心选择策略有时可以设计出较好的近似算法。有时可以设计出较好的近似算法。约定，每个作业均可在任何一台机器上加工处理，但未约定，每个作业均可在任何一台机器上加工处理，但未完工前不允许中断处理。作业不能拆分成更小的子作业。完工前不允许中断处理。作业不能拆分成更小的子作业。2022/12/342第42页，本讲稿共58页多机调度问题多机调度问题采用采用最长处理时间作业优先最长处理时间作业优先的贪心选择策略可以设计出解多机的贪心选择策略可以设计出解多机调度问题的较好的近似算法。调度问题的较好的近似算法。按此策略，当按此策略，当 时，只要将机器时，只要将机器i i的的0,ti0,ti时间区时间区间分配给作业间分配给作业i i即可，算法只需要即可，算法只需要O(1)O(1)时间。时间。当当 时，首先将时，首先将n n个作业依其所需的处理时间从大到小个作业依其所需的处理时间从大到小排序。然后依此顺序将作业分配给空闲的处理机。算法所需的计算排序。然后依此顺序将作业分配给空闲的处理机。算法所需的计算时间为时间为O(nlogn)O(nlogn)。2022/12/343第43页，本讲稿共58页多机调度问题多机调度问题例如，例如，设设7 7个独立作业个独立作业1,2,3,4,5,6,71,2,3,4,5,6,7由由3 3台机器台机器M1M1，M2M2和和M3M3加工处理。各作业所需的处理时间分别为加工处理。各作业所需的处理时间分别为2,14,4,16,6,5,32,14,4,16,6,5,3。按算法。按算法greedygreedy产生的作业调度如下产生的作业调度如下图所示，所需的加工时间为图所示，所需的加工时间为1717。2022/12/344第44页，本讲稿共58页贪心算法的理论基础贪心算法的理论基础借助于借助于拟阵拟阵工具，可建立关于贪心算法的较一般的理论。这个工具，可建立关于贪心算法的较一般的理论。这个理论对理论对确定何时使用贪心算法确定何时使用贪心算法可以得到问题的整体最优解十分可以得到问题的整体最优解十分有用。有用。1 1、拟阵、拟阵拟阵拟阵M M定义为满足下面定义为满足下面3 3个条件的有序对个条件的有序对(S,I)(S,I)：(1)S(1)S是非空有限集。是非空有限集。(2)I(2)I是是S S的一类具有遗传性质的独立子集族，即若的一类具有遗传性质的独立子集族，即若B B I I，则，则B B是是S S的独的独立子集，且立子集，且B B的任意子集也都是的任意子集也都是S S的独立子集。空集的独立子集。空集必为必为I I的成的成员。员。(3)I(3)I满足交换性质，即若满足交换性质，即若A A I,BI,B I I且且|A|B|A|0W(x)0，则称拟阵，则称拟阵M M为为带权拟阵带权拟阵。依此权函数，。依此权函数，S S的任一子集的任一子集A A的权定义为的权定义为 。2 2、关于带权拟阵的贪心算法、关于带权拟阵的贪心算法许多可以用贪心算法求解的问题可以表示为求带权拟阵的许多可以用贪心算法求解的问题可以表示为求带权拟阵的最大权独立最大权独立子集问题。子集问题。2022/12/347第47页，本讲稿共58页贪心算法的理论基础贪心算法的理论基础给定带权拟阵给定带权拟阵M=(S,I)M=(S,I)，确定，确定S S的独立子集的独立子集A A I I使得使得W(A)W(A)达到达到最大。这种使最大。这种使W(A)W(A)最大的独立子集最大的独立子集A A称为拟阵称为拟阵M M的的最优子集最优子集。由于。由于S S中任一元素中任一元素x x的权的权W(x)W(x)是正的，因此，是正的，因此，最优子集也一定是极大独立子最优子集也一定是极大独立子集。集。例如，例如，在最小生成树问题可以表示为确定带权拟阵在最小生成树问题可以表示为确定带权拟阵 的最优子集的最优子集问题。求带权拟阵的最优子集问题。求