计算复杂性说课讲解.ppt





《计算复杂性说课讲解.ppt》由会员分享,可在线阅读,更多相关《计算复杂性说课讲解.ppt(43页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、计算复杂性讲讲 座座 提提 纲纲基本知识基本知识可计算理论可计算理论,计算资源计算资源,计算复杂性理论计算复杂性理论,算法分析算法分析复杂性的计量复杂性的计量问题规模、复杂性函数、最坏、最好和平均三种问题规模、复杂性函数、最坏、最好和平均三种情况的时间复杂性情况的时间复杂性复杂性的渐近复杂性的渐近行为及其阶行为及其阶复杂性的渐近复杂性的渐近行为、行为、渐近意义下的记号渐近意义下的记号O、记号记号O的运算规则、的运算规则、复杂性渐近阶分析的重要性复杂性渐近阶分析的重要性算法复杂性渐近阶的分析算法复杂性渐近阶的分析算法的复杂性渐近阶的分析、语句规则的例举算法的复杂性渐近阶的分析、语句规则的例举2基
2、基 本本 知知 识识可可计计算理算理论论研究计算的一般性质的数学理论,也称算法理论研究计算的一般性质的数学理论,也称算法理论通过建立计算的数学模型通过建立计算的数学模型,区分可计算与不可计算区分可计算与不可计算可计算函数:能够在抽象计算机上编出程序计算可计算函数:能够在抽象计算机上编出程序计算其值的函数。这样的程序称为算法其值的函数。这样的程序称为算法这样就可以讨论哪些函数是可计算的,哪些函数这样就可以讨论哪些函数是可计算的,哪些函数是不可计算的是不可计算的可计算性:指一个实际问题是否可以使用计算机可计算性:指一个实际问题是否可以使用计算机来解决(能解决一定是指有限步内解决)来解决(能解决一定
3、是指有限步内解决)上一讲介绍的就是计算模型和可计算函数上一讲介绍的就是计算模型和可计算函数3基基 本本 知知 识识计计算算资资源源在计算复杂性理论内,计算资源是指在某个计算在计算复杂性理论内,计算资源是指在某个计算模型之下,求解一个问题所要消耗的资源模型之下,求解一个问题所要消耗的资源时间资源:求解问题所需花费的时间,通常用计时间资源:求解问题所需花费的时间,通常用计算步数来度量算步数来度量空间资源:求解问题所需占用的空间,通常用存空间资源:求解问题所需占用的空间,通常用存储器空间的大小来度量储器空间的大小来度量计算所需资源的多少是衡量计算复杂性的依据计算所需资源的多少是衡量计算复杂性的依据实
4、际应用关心的资源与理论上的有区别:硬件资实际应用关心的资源与理论上的有区别:硬件资源(如计算机、存储器)、软件资源、网络资源源(如计算机、存储器)、软件资源、网络资源(如通信带宽)等(如通信带宽)等 4基基 本本 知知 识识计计算复算复杂杂性理性理论论是理论计算机科学和数学的一个分支,它致力于是理论计算机科学和数学的一个分支,它致力于将可计算问题根据将可计算问题根据其其本身本身固有的难度进行固有的难度进行分类,分类,以及以及把把这些类别这些类别相互相互联系起来联系起来它它尝试尝试把把问题分成两类问题分成两类:在:在适当适当的的资源资源限制下能限制下能解解(容易容易)和不能解和不能解(困难困难)
5、的问题。一个问题,若的问题。一个问题,若求求解需解需很很多资源多资源(无论什么算法无论什么算法),则被认为是难解的则被认为是难解的通过引入计算模型来研究这些问题通过引入计算模型来研究这些问题,并给出,并给出定量定量计算解决问题所需的资源计算解决问题所需的资源(时间和空间时间和空间)的方法的方法,由此把由此把确定资源确定资源的的方法方法数学化数学化作用之一作用之一是确定计算机是确定计算机能解和不能能解和不能解的实际解的实际界线界线5基基 本本 知知 识识计计算复算复杂杂性理性理论论研究问题之一:研究问题之一:NP=?PP(Polynomial):在确定型图灵机上有多项式时间:在确定型图灵机上有多
6、项式时间算法的问题的集合算法的问题的集合NP(Nondeterministic Polynomial):在非确定型图:在非确定型图灵机上有多项式时间算法的问题的集合灵机上有多项式时间算法的问题的集合NP=?P:是计算机科学中非常重要而又经历了几:是计算机科学中非常重要而又经历了几十年始终未解决的一个问题十年始终未解决的一个问题它的解决可导致一系列理论问题的解决它的解决可导致一系列理论问题的解决6基基 本本 知知 识识算法分析算法分析确定确定执行一个算法需要消耗的计算资源执行一个算法需要消耗的计算资源的的数量数量的的分析过程分析过程算法的效率或复杂度表示为一个函数算法的效率或复杂度表示为一个函数
7、,其定义域其定义域是输入数据的是输入数据的规模规模(长度,算法大都设计成允许长度,算法大都设计成允许任意任意长长的输入),值域通常是执行步数(时间复的输入),值域通常是执行步数(时间复杂度)或杂度)或所需所需存储存储空间空间数量(空间复杂度)数量(空间复杂度)在算法的在算法的理论分析理论分析中,通常是中,通常是估计算法估计算法渐近意义渐近意义上上的复杂度的复杂度精确分析算法的精确分析算法的复杂度复杂度有时也可行,但有时也可行,但它它通常通常基基于于一些与具体实现相关的假设一些与具体实现相关的假设7基基 本本 知知 识识可可计计算性、算性、计计算复算复杂杂性和算法分析的区性和算法分析的区别别算法
8、分析算法分析致力于分析求解一个问题致力于分析求解一个问题的某个具体算的某个具体算法法所需的资源量所需的资源量计算复杂性理论计算复杂性理论关注的是用所有可能算法解决同关注的是用所有可能算法解决同一类问题层面上的一般性议题一类问题层面上的一般性议题可计算性理论可计算性理论关注关注的是原则上可以的是原则上可以用算法求解的用算法求解的问题(把问题区分为可计算和不可计算)问题(把问题区分为可计算和不可计算)资源受限和不受限资源受限和不受限是区分计算复杂性理论和可计是区分计算复杂性理论和可计算性理论的一个重要算性理论的一个重要标志标志8复杂性的计量复杂性的计量两种两种查查找算法的效率比找算法的效率比较较i
9、nt search(int val)/顺顺序序查查找找int j=0;/int am无重复且已按从小到大排序无重复且已按从小到大排序while(aj val&j m 1)j=j+1;if(aj=val)return j;else return 1;/在最坏情况下,需要把在最坏情况下,需要把val与与a的所有分量比的所有分量比较较9复杂性的计量复杂性的计量两种两种查查找算法的效率比找算法的效率比较较int search(int val)/二分二分查查找找 int i,j,k;/int am无重复且已按从小到大排序无重复且已按从小到大排序 i=0;j=m 1;while(i=j)k=i+(j i)
10、/2;if(val=ak)i=k+1;if(j i=1)return 1;else return k;/在最坏情况下,只需要把在最坏情况下,只需要把val与与a的的log2 m个个 /分量比分量比较较,显显然效率高于前一个算法然效率高于前一个算法10复杂性的计量复杂性的计量两种求斐波那契数列前两种求斐波那契数列前n+1项项算法的效率比算法的效率比较较void Fibonacci(int n)/假定假定n=0,递归算法递归算法 int i;for(i=0;i=n;i+)printf(“%dn”,fib(n);int fib(int k)if(k=0)return 0;else if(k=1)re
11、turn 1;else return fib(k 1)+fib(k 2);对该对该数列数列a0,a1,an,ak(0 k=0,循环算法循环算法 int j0,j1,i,temp;j0=0;j1=1;for(i=0;i=0,循环算法循环算法 int j0,j1,i,temp;j0=0;j1=1;for(i=0;i=n;i+)printf(“%dn”,j0);temp=j1;j1=j0+j1;j0=temp;这这种比种比较单纯较单纯反映作反映作为为算法精髓的算法精髓的计计算方法本身算方法本身的效率,不涉及运行的效率,不涉及运行这这些算法的些算法的实际计实际计算机的性能算机的性能13复杂性的计量复杂
12、性的计量复杂性函数复杂性函数时间和空间复杂性函数分别是:时间和空间复杂性函数分别是:T(N,I)和和S(N,I)N:问题规模,:问题规模,I:算法的输入:算法的输入问题问题问题的规模问题的规模N在数组中查找值为在数组中查找值为val的分量的分量数组中分量个数数组中分量个数矩阵相乘矩阵相乘矩阵的阶矩阵的阶数表的排序数表的排序数表中的项数数表中的项数遍历二叉树遍历二叉树树中节点数树中节点数求数列的前求数列的前n项项项数项数n解有关图的问题解有关图的问题图中节点数或边数图中节点数或边数14复杂性的计量复杂性的计量复杂性函数复杂性函数时间和空间复杂性函数分别是:时间和空间复杂性函数分别是:T(N,I)
13、和和S(N,I)N:问题规模,:问题规模,I:算法的输入:算法的输入时间复杂性和空间复杂性的概念类同,计算方法时间复杂性和空间复杂性的概念类同,计算方法相似,且空间复杂性分析相对简单,因此下面仅讨相似,且空间复杂性分析相对简单,因此下面仅讨论时间复杂性论时间复杂性若抽象计算机有若抽象计算机有k种元运算,它们所需时间依次为种元运算,它们所需时间依次为t1,t2,tk。若某算法用到这。若某算法用到这k种运算的次数依次是种运算的次数依次是e1,e2,ek,ei(1 i k)是是N和和I的函数的函数,ei=ei(N,I),则则T(N,I)=ti ei(N,I)i=1k15复杂性的计量复杂性的计量复杂性
14、函数复杂性函数有关算法的输入有关算法的输入I不可能为规模为不可能为规模为N的每一种合法输入的每一种合法输入I 都去统计都去统计 ei(N,I)简化办法:在规模为简化办法:在规模为N的某些或某类有代表性的的某些或某类有代表性的合法输入中统计相应的合法输入中统计相应的ei,评价这些情况下的时,评价这些情况下的时间复杂性间复杂性16复杂性的计量复杂性的计量三种时间复杂性函数三种时间复杂性函数最坏情况最坏情况Tmax(N)=max T(N,I)=ti ei(N,I)=T(N,I)其中其中D DN为规模为为规模为N的合法输入集的合法输入集,I 是达是达max的输入的输入最好情况最好情况(其中(其中I是达
15、是达min的输入)的输入)Tmin(N)=min T(N,I)=ti ei(N,I)=T(N,I)平均情况平均情况 Tavg(N)=P(I)T(N,I)=P(I)ti ei(N,I)其中其中P(I)是在算法的应用中出现输入是在算法的应用中出现输入I的概率的概率i=1kI D DNI D DNi=1kI D DNI D DNi=1k=max ti ei(N,I)I D DNi=1k17复杂性的渐近行为及其阶复杂性的渐近行为及其阶如何简化算法分析如何简化算法分析计算机解决的问题越来越复杂,规模越来越大计算机解决的问题越来越复杂,规模越来越大若按先前介绍的方法,把所有的元计算都考虑进若按先前介绍的方
16、法,把所有的元计算都考虑进去,并进行精确分析,则算法分析的步骤之多,去,并进行精确分析,则算法分析的步骤之多,工作量之大,令人难以承受工作量之大,令人难以承受下面介绍复杂性渐近行为的概念,以简化算法分下面介绍复杂性渐近行为的概念,以简化算法分析析18复杂性的渐近行为及其阶复杂性的渐近行为及其阶复杂性的渐近行为(复杂性的渐近行为(asymptotic behavior)对于算法对于算法A的的T(N),一般来说,一般来说,当当N单调递增且趋单调递增且趋于于 时,时,T(N)也也单调递增且趋于单调递增且趋于 对于对于T(N),若存在,若存在T(N),使得当,使得当N 时有时有 (T(N)T(N)/T
17、(N)0则称则称T(N)是是T(N)当当N 时的渐近行为,或称时的渐近行为,或称T(N)为算法为算法A的、当的、当N 时的时的渐近复杂性渐近复杂性直观上,直观上,T(N)是是T(N)略去低项后的主项略去低项后的主项 例:若例:若T(N)是是3N2+4Nlog2N+7时,时,T(N)可以是可以是3N2,若若N ,(4Nlog2N+7)/(3N2+4Nlog2N+7)0N2称为阶称为阶19复杂性的渐近行为及其阶复杂性的渐近行为及其阶复杂性的渐近行为复杂性的渐近行为对于对于T(N),若存在,若存在T(N),使得当,使得当N 时有时有 (T(N)T(N)/T(N)0则称则称T(N)为算法为算法A的当的
18、当N 时的时的渐近复杂性渐近复杂性若用若用T(N)代替代替T(N),作为算法,作为算法A在在N 时的复杂时的复杂性的度量,则复杂性分析明显简化性的度量,则复杂性分析明显简化复杂性分析的目的:在于比较同一问题的不同算复杂性分析的目的:在于比较同一问题的不同算法的效率,若两个算法的阶不同,则可知谁效率高法的效率,若两个算法的阶不同,则可知谁效率高20复杂性的渐近行为及其阶复杂性的渐近行为及其阶复杂性的渐近行为复杂性的渐近行为对于对于T(N),若存在,若存在T(N),使得当,使得当N 时有时有 (T(N)T(N)/T(N)0则称则称T(N)为算法为算法A的当的当N 时的时的渐近复杂性渐近复杂性简化简
19、化T(N)分析:分析:只需关心只需关心T(N)的阶,把其常数因的阶,把其常数因子忽略。如在子忽略。如在3N2中,不用关心系数中,不用关心系数 3进一步简化进一步简化T(N)分析:假设算法中用到的所有不分析:假设算法中用到的所有不同的元运算执行一次都只需一个时间单位同的元运算执行一次都只需一个时间单位21复杂性的渐近行为及其阶复杂性的渐近行为及其阶算法复杂性的渐近分析方法算法复杂性的渐近分析方法只要考察当问题规模充分大时,算法复杂性在渐只要考察当问题规模充分大时,算法复杂性在渐近意义下的阶。算法分析通常都是这么做的近意义下的阶。算法分析通常都是这么做的与此简化的复杂性分析相配套,需要引入一些渐与
20、此简化的复杂性分析相配套,需要引入一些渐近意义下的记号近意义下的记号22复杂性的渐近行为及其阶复杂性的渐近行为及其阶渐近意义下的渐近意义下的记号记号O(代表(代表order of)若若f 和和g是正整数集上的正函数,若存在大于是正整数集上的正函数,若存在大于0的常的常数数C和自然数和自然数N0,使得,使得N N0时有时有f(N)Cg(N),则则称:在称:在N充分大时,充分大时,Cg(N)是函数是函数f(N)的一个上界,的一个上界,记为记为f(N)=O(g(N),并简称,并简称f(N)不大于不大于g(N)的阶的阶使用使用“=”是不妥的,这是一种对是不妥的,这是一种对“=”的滥用的滥用f(N)=O
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 计算复杂性 讲解

限制150内