计算机系统结构第六讲.ppt

《计算机系统结构第六讲.ppt》由会员分享，可在线阅读，更多相关《计算机系统结构第六讲.ppt（101页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、计算机系统结构(第六讲)厦门大学计算机科学系 陆达2004年11月20日第五章 标量处理机什么是标量处理机？什么是标量处理机？只有标量数据表示和标量指令系统的处理机称为标只有标量数据表示和标量指令系统的处理机称为标量处理机量处理机提高处理机指令执行速度的途径有三种：提高处理机指令执行速度的途径有三种：（1 1）、提高处理机的工作主频）、提高处理机的工作主频（2 2）、采用更好的算法和设计更好的功能部件）、采用更好的算法和设计更好的功能部件（3 3）、多条指令并行执行，称为指令级并行技术）、多条指令并行执行，称为指令级并行技术 a a、流水线处理机、超流水线处理机流水线处理机、超流水线处理机 （

2、superpipeliningsuperpipelining）b b、多操作部件处理机、超标量处理机多操作部件处理机、超标量处理机 （superscalarsuperscalar）超标量超流水线处理机（超标量超流水线处理机（a+ba+b）c c、超长指令字（超长指令字（VLIWVLIW）本章主要内容：（1）、流水线技术（先行控制技术、流水线原理、流水线性能分析、非线性流水线的调度方法、局部数据相关和全局数据相关的处理方法）（2）、超标量处理机 （3）、超流水线处理机5.1 先行控制技术先行控制（look-ahead）技术超流水线处理机、超标量处理机缓冲技术、预处理技术指令分析器、指令执行部件5

3、.1.1 指令的重叠执行方式 图图5.15.1：一条指令的执行过程：一条指令的执行过程三个阶段都可能访问存储器三个阶段都可能访问存储器指令的执行方式：指令的执行方式：（1 1）、顺序执行方式）、顺序执行方式 图图5.2(5.2(a)a)T=3nt T=3nt（2 2）、一次重叠执行方式）、一次重叠执行方式 图图5.2(5.2(b)b)T=(1+2n)t T=(1+2n)t（3 3）、二次重叠执行方式）、二次重叠执行方式 图图5.2(5.2(c)c)T=(2+n)t T=(2+n)t5.1.2 先行控制方式的原理和结构要解决两个问题：（1）、要有独立的取指令部件、指令分析部件和指令执行部件 存储

4、控制器（存控）、指令控制器（指控）、运算控制器（运控）（2）、要解决访问主存储器的冲突问题 a、把主存储器分成两个独立编制的存储器 指令存储器（指存）、数据存储器（数存）指令Cache、数据Cache（哈佛结构）b、指令和数据仍然混合存放在同一个主存储器内 低位交叉存取方式 3 3、先行控制技术 缓冲技术：在工作速度不固定的两个功能部件之间设置缓冲栈，用以平滑它们的工作（设置四个缓冲栈）预处理技术：把进入运算器的指令都处理成寄存器-寄存器型（R-R型）指令，它与缓冲技术相结合，为进入运算器的指令准备好所需要的全部操作数5.1.2.1 处理机结构图图5.35.3：采用先行控制方式的处理机结构：采

5、用先行控制方式的处理机结构图图5.45.4：指令缓冲栈（先行指令缓冲栈）的组成：指令缓冲栈（先行指令缓冲栈）的组成 指令缓冲寄存器（存储器）堆、先行程序计数器指令缓冲寄存器（存储器）堆、先行程序计数器PCPC1 1、现行程序计数器现行程序计数器PCPC图图5.55.5：先行控制方式的一次重叠执行：先行控制方式的一次重叠执行 这里的这里的“分析分析”=前面的前面的“取指令取指令+分析分析”T T重叠重叠=(1+=(1+n)tn)t有三个问题需要解决：（1）、指令分析部件和指令执行部件经常要相互等待，从而造成功能部件的浪费（2）、数据相关，控制相关，变址相关（3）、当出现转移或转子程序指令时，程序

6、的执行过程就不是顺序的5.1.2.2 指令执行时序图图5.65.6：分析指令和执行指令时间不相等时的一次：分析指令和执行指令时间不相等时的一次重叠执行方式重叠执行方式图图5.75.7：采用先行缓冲栈的指令执行过程：采用先行缓冲栈的指令执行过程 先行缓冲栈：先行指令缓冲栈、先行读数栈、先先行缓冲栈：先行指令缓冲栈、先行读数栈、先行操作栈、后行写数栈行操作栈、后行写数栈图图5.85.8：采用先行缓冲栈时指令执行过程的一种：采用先行缓冲栈时指令执行过程的一种表示方法（图表示方法（图5.75.7的另一种表示方法）的另一种表示方法）5.1.2.3 先行缓冲栈先行指令缓冲栈（指令缓冲栈）：用于平滑主存储器

7、先行指令缓冲栈（指令缓冲栈）：用于平滑主存储器和指令分析器的工作和指令分析器的工作先行操作栈：指令分析器对已经存放在先行指令缓冲先行操作栈：指令分析器对已经存放在先行指令缓冲栈里的指令进行预处理，把处理之后的指令送入先行栈里的指令进行预处理，把处理之后的指令送入先行操作栈；先行操作栈是指令分析器和运算控制器之间操作栈；先行操作栈是指令分析器和运算控制器之间的一个缓冲存储器；先行操作栈采用先进先出的一个缓冲存储器；先行操作栈采用先进先出（FIFOFIFO）的方式工作，它由一个先行指令寄存器堆和的方式工作，它由一个先行指令寄存器堆和有关控制逻辑等组成有关控制逻辑等组成 预处理技术（预处理技术（RR

8、RR型、型、RXRX型、型、RSRS型、型、RIRI型型 -RR*RR*型）型）先行读数栈：是主存储器与运算器之间的一种缓先行读数栈：是主存储器与运算器之间的一种缓冲存储器，用来平滑运算器与主存储器的工作；冲存储器，用来平滑运算器与主存储器的工作；由一组缓冲寄存器和有关控制逻辑等组成；每一由一组缓冲寄存器和有关控制逻辑等组成；每一个缓冲寄存器由先行地址缓冲寄存器、先行操作个缓冲寄存器由先行地址缓冲寄存器、先行操作数缓冲寄存器和标志字段等三部分组成数缓冲寄存器和标志字段等三部分组成后行写数栈：是主存储器和运算器之间的一个缓后行写数栈：是主存储器和运算器之间的一个缓冲存储器；由一组缓冲寄存器和有关

9、控制逻辑等冲存储器；由一组缓冲寄存器和有关控制逻辑等组成；每一个缓冲寄存器由后行地址缓冲寄存器、组成；每一个缓冲寄存器由后行地址缓冲寄存器、后行数据缓冲寄存器和标志字段等三部分组成后行数据缓冲寄存器和标志字段等三部分组成图图5.95.9：采用先行控制方式时一个程序的执行过程：采用先行控制方式时一个程序的执行过程指令控制部件：先行控制器（先行指令缓冲栈、先行读数栈、先行操作栈、后行写数栈）+指令分析器指令执行部件：运算器+运算控制器5.1.2.4 缓冲深度的设计缓冲深度问题：各个缓冲栈中的缓冲寄存器个数设置多少缓冲深度问题：各个缓冲栈中的缓冲寄存器个数设置多少个？个？缓冲深度的静态分析方法：缓冲

10、深度的静态分析方法：（1 1）、先行指令缓冲栈已经完全充满）、先行指令缓冲栈已经完全充满 L L1 1*t*t1 1=(L=(L1 1-D-DI I)*t)*t2 2 D DI I=L=L1 1*(t*(t2 2-t-t1 1)/t)/t2 2（2 2）、）、先行指令缓冲栈原来是空的先行指令缓冲栈原来是空的 (L L2 2-D-DI I)*t)*t1 1=L=L2 2*t*t2 2 D DI I=L=L2 2*(t*(t1 1-t-t2 2)/t)/t1 1 吸收型指令（如转移指令等）：在指令分析器中就直接执吸收型指令（如转移指令等）：在指令分析器中就直接执行完成，不需要送到运算器中执行行完成

11、，不需要送到运算器中执行例：例：L L1 1=9=9，t t1 1=1=1，t t2 2=4 D=4 DI I=7=7 图图5.105.10：先行指令缓冲栈的工作时间关系图：先行指令缓冲栈的工作时间关系图提高主存储器的访问速度，对减少缓冲深度很有效（t2减少-DI减少）DI（先行指令缓冲栈）DC（先行操纵栈）DR（先行读数栈）DW（先行写数栈）5.1.3 数据相关什么是相关（什么是相关（correlationcorrelation）?是指在一段程序的相近指令之间有某种关系，这种关是指在一段程序的相近指令之间有某种关系，这种关系可能影响指令的重叠执行系可能影响指令的重叠执行相关分为两大类：相关分

12、为两大类：（1 1）、数据相关）、数据相关 （2 2）、控制相关）、控制相关数据相关：包括指令相关、主存操作数相关、通用寄数据相关：包括指令相关、主存操作数相关、通用寄存器相关、变址相关存器相关、变址相关解决数据相关的方法：解决数据相关的方法：（1 1）、推后分析法）、推后分析法 （2 2）、设置专用路径）、设置专用路径5.1.3.1 指令相关例：结果地址（例：结果地址（k k）=指令地址（指令地址（k+1k+1）由于第由于第k+1k+1条指令本身的内容取决于第条指令本身的内容取决于第k k条指令的执条指令的执行结果，从而产生指令相关行结果，从而产生指令相关判断是否发生了指令相关：把每一条指令

13、的结果地判断是否发生了指令相关：把每一条指令的结果地址与先行操作栈中、指令分析器中、先行指令缓冲址与先行操作栈中、指令分析器中、先行指令缓冲栈中的所有指令地址进行比较栈中的所有指令地址进行比较解决指令相关的根本方法：在程序设计中不允许修解决指令相关的根本方法：在程序设计中不允许修改指令改指令IBM370IBM370，有一条有一条“执行执行”指令能够解决指令相关，指令能够解决指令相关，又允许在程序执行过程中修改指令又允许在程序执行过程中修改指令5.1.3.2 主存操作数相关例：结果地址（k）=主存操作数地址（k+1）当指令的执行结果写到主存储器，所读取的操作数也取自主存储器时，就有可能发生主存操

14、作数相关A1（k）=A2（k+1）A1（k）=A3（k+1）解决主存操作数相关的方法：推后处理法图图5.115.11：主存操作数相关及其处理方法：主存操作数相关及其处理方法对设置有先行操作栈的处理机，解决操作数相关的办法：对于刚进入先行操作栈中的指令在向主存读操作数之前，首先要把访问主存的地址与后行写数栈中的所有主存地址进行比较，如果发现有相等的，则先行操作栈的读操作数要暂缓进行，等到发生操作数相关的指令执行完成，并把结果写回到主存之后再开始读操作数5.1.3.3 通用寄存器数据相关在RR型指令和RS型指令的执行过程中，可能发生通用寄存器数据相关R1（k）=R1（k+1），称为R1数据相关 R

15、1（k）=R2（k+1），称为R2数据相关解决通用寄存器数据相关的方法（共有四种）：解决通用寄存器数据相关的方法（共有四种）：（1 1）、通用寄存器是用）、通用寄存器是用D D型触发器构成的，而且在通用寄存型触发器构成的，而且在通用寄存器到运算器之间建立有直接数据通路，即不设置缓冲寄存器到运算器之间建立有直接数据通路，即不设置缓冲寄存器或锁存器，则不会发生通用寄存器数据相关器或锁存器，则不会发生通用寄存器数据相关 图图5.125.12：一种典型的运算器结构：一种典型的运算器结构 （2 2）、分析指令推后一个周期执行）、分析指令推后一个周期执行 图图5.135.13：IBM 370IBM 370

16、机的指令分析与执行的时间关系机的指令分析与执行的时间关系（3 3）、分析指令仅推后一个节拍）、分析指令仅推后一个节拍 图图5.145.14：分析指令仅推后一个节拍的时间关系：分析指令仅推后一个节拍的时间关系（4 4）、设置专用数据通路）、设置专用数据通路 图图5.155.15：设置专用数据通路解决通用寄存器数据：设置专用数据通路解决通用寄存器数据相关相关 设置专用数据通路是通过增加硬件为代价来解决设置专用数据通路是通过增加硬件为代价来解决寄存器数据相关寄存器数据相关 5.1.3.4 变址相关把通用寄存器兼作变址寄存器使用，由于在变址寄存器中存放的变址量在指令分析过程中要用它来计算有效地址，有可

17、能发生变址相关R1（k）=X2（k+1），称为一次变址相关 R1（k）=X2（k+2），称为二次变址相关图图5.165.16：一次变址相关和二次变址相关的时间关：一次变址相关和二次变址相关的时间关系（当系（当t t1 1 t t2 2时，将发生二次变址相关）时，将发生二次变址相关）解决变址相关的方法：解决变址相关的方法：（1 1）、推后分析）、推后分析（2 2）、设置专用通路）、设置专用通路 图图5.175.17：用变址相关专用通路解决变址相关：用变址相关专用通路解决变址相关解决各种数据相关的方法：（1）、采用硬件或软件的办法尽量避免数据相关发生（2）、在确保指令正确执行的前提下，推后指令分析

18、（推后分析法）（3）、设置相关专用通路来解决数据相关（设置专用路径）5.1.4 控制相关 什么是控制相关？什么是控制相关？因为程序的执行方向可能改变而引起的相关称为因为程序的执行方向可能改变而引起的相关称为控制相关控制相关 无条件转移指令、一般条件转移指令、复合条件无条件转移指令、一般条件转移指令、复合条件转移指令、子程序调用指令、中断指令转移指令、子程序调用指令、中断指令 数据相关：称为局部相关数据相关：称为局部相关 控制相关：称为全局相关控制相关：称为全局相关 “吸收型吸收型”指令（无条件转移指令、一般条件转移指令（无条件转移指令、一般条件转移指令）：在指令分析器就执行完成，不需要送入指令

19、）：在指令分析器就执行完成，不需要送入先行操作栈和指令执行部件先行操作栈和指令执行部件 5.1.4.1 无条件转移无条件转移指令一般能够在指令分析器中就执行无条件转移指令一般能够在指令分析器中就执行完成完成图图5.185.18：无条件转移指令的执行时序：无条件转移指令的执行时序 （无条件转移指令对程序执行速度的影响很小）（无条件转移指令对程序执行速度的影响很小）5.1.4.2 一般条件转移条件转移指令：条件转移指令：（1 1）、一般条件转移指令）、一般条件转移指令（2 2）、复合条件转移指令）、复合条件转移指令图图5.195.19：一般条件转移指令的执行时序：一般条件转移指令的执行时序一般条件

20、转移指令称为一般条件转移指令称为“吸收型吸收型”指令指令转移不成功对先行控制器的影响不大，而当转移转移不成功对先行控制器的影响不大，而当转移成功时，不仅指令执行过程变成了完全串行，而成功时，不仅指令执行过程变成了完全串行，而且要作废已经取到先行指令缓冲栈中的大量指令，且要作废已经取到先行指令缓冲栈中的大量指令，从而白白地增加了处理机与主存之间的通信量从而白白地增加了处理机与主存之间的通信量5.1.4.3 复合条件转移复合型条件转移指令不是复合型条件转移指令不是“吸收型吸收型”指令指令图图5.205.20：复合型条件转移指令的执行时序：复合型条件转移指令的执行时序（如果转移成功，对先行控制器造成

21、的影响比一般条（如果转移成功，对先行控制器造成的影响比一般条件转移指令还要大得多）件转移指令还要大得多）5.1.4.4 转移预测技术RISC关键技术：（1）、延迟转移技术（p118）（2）、指令取消技术（p119）在采用先行控制方式的处理机中，采用的技术：（1）、软件“猜测法”（2）、硬件“猜测法”（3）、两个先行指令缓冲栈1、软件“猜测法”要尽量降低转移成功出现的概率要尽量降低转移成功出现的概率图图5.215.21：用编译器支持条件转移指令的执行：用编译器支持条件转移指令的执行2、硬件“猜测法”在先行指令缓冲栈的入口处再增设一个简单的指在先行指令缓冲栈的入口处再增设一个简单的指令分析器，当这

22、个指令分析器检测到转移指令时，令分析器，当这个指令分析器检测到转移指令时，就把转移目标地址就把转移目标地址L L送入先行程序计数器送入先行程序计数器PCPC1 1中，中，同时保留当前同时保留当前PCPC1 1中的内容到另一个寄存器中，以中的内容到另一个寄存器中，以备猜错时恢复原来的程序执行方向备猜错时恢复原来的程序执行方向软件软件“猜测法猜测法”和硬件和硬件“猜测法猜测法”共同配合，软共同配合，软件和硬件都往同一个方向去猜测件和硬件都往同一个方向去猜测3、两个先行指令缓冲栈对于普通条件转移指令（如对于普通条件转移指令（如IFIF语句），转移成功与不成功语句），转移成功与不成功的概率一般各为的概

23、率一般各为50%50%在先行指令缓冲栈中增加一个先行目标缓冲栈，当指令分在先行指令缓冲栈中增加一个先行目标缓冲栈，当指令分析器分析到条件转移指令时，按照转移成功的方向预取指析器分析到条件转移指令时，按照转移成功的方向预取指令到这个先行目标缓冲栈中，原来的先行指令缓冲栈仍然令到这个先行目标缓冲栈中，原来的先行指令缓冲栈仍然按照转移不成功的方向继续预取指令按照转移不成功的方向继续预取指令AIBAIB：新增加的先行目标缓冲栈新增加的先行目标缓冲栈IBIB：原来的指令缓冲栈原来的指令缓冲栈TRTR1 1、TRTR2 2：暂存寄存器暂存寄存器图图5.225.22：两个先行指令缓冲栈的条件转移指令执行：两

24、个先行指令缓冲栈的条件转移指令执行流程流程5.1.4.5 短循环程序的处理对于短循环程序，一般先行指令缓冲栈的效率很低短循环程序满足的三个条件：（1）、循环体的长度小于等于先行指令缓冲栈的深度（2）、循环次数的控制采用计数转移指令实现（3）、控制循环的条件转移指令一般是向后转移的指令必须解决好三个问题：必须解决好三个问题：（1 1）、指令分析器如何发现短循环程序）、指令分析器如何发现短循环程序（2 2）、如何控制短循环程序在先行指令缓冲栈中不被清除）、如何控制短循环程序在先行指令缓冲栈中不被清除（3 3）、如何控制循环体的执行次数，即处理好循环程序的）、如何控制循环体的执行次数，即处理好循环程

25、序的出口出口两种方法：两种方法：（1 1）、在指令系统中设置专门的短循环程序的开门指令和）、在指令系统中设置专门的短循环程序的开门指令和关门指令关门指令 短循环标志触发器短循环标志触发器T TL L（2 2）、）、用专门的硬件来识别短循环程序，目的是使短循环用专门的硬件来识别短循环程序，目的是使短循环程序的处理对程序员透明程序的处理对程序员透明一级一级CacheCache：一级指令一级指令CacheCache、一级数据一级数据CacheCache 可以有效地提高循序程序的执行速度可以有效地提高循序程序的执行速度5.2 流水线处理机 空间并行性：空间并行性：在一个处理机内设置多个独立的操作部件，

26、并让在一个处理机内设置多个独立的操作部件，并让这些操作部件并行工作这些操作部件并行工作 多操作部件处理机和超标量处理机多操作部件处理机和超标量处理机时间并行性：时间并行性：采用流水线技术采用流水线技术流水线的基本原理、特点、分类、性能分析；非流水线的基本原理、特点、分类、性能分析；非线性流水线的调度问题；流水线中的局部相关和线性流水线的调度问题；流水线中的局部相关和全局相关的处理方法全局相关的处理方法5.2.1 流水线工作原理什么是流水线工作方式？把一个重复的过程分解为若干个子过程，每个子过程可以与其他子过程同时进行指令流水线操作部件流水线访问主存储器部件也可以采用流水线在处理机之间，机器之间

27、也可以采用流水线5.2.1.1 从重叠到流水线图图5.235.23：一种简单的流水线：一种简单的流水线 指令分析器、指令执行部件指令分析器、指令执行部件图图5.245.24：一种指令流水线：一种指令流水线 一条指令分为一条指令分为6 6个子过程个子过程图图5.255.25：浮点加法器流水线：浮点加法器流水线 图图5.245.24的执行过程分解为的执行过程分解为4 4个小子过程个小子过程5.2.1.2 时空图图图5.265.26：描述流水线工作过程的时空图：描述流水线工作过程的时空图 横坐标：表示时间横坐标：表示时间 纵坐标：表示空间，即流水线的各个子过程纵坐标：表示空间，即流水线的各个子过程

28、“功能段功能段”：流水线的一个子过程：流水线的一个子过程图图5.275.27：浮点加法器流水线的时空图：浮点加法器流水线的时空图 5.2.1.3 流水线的特点（1 1）、在流水线中处理的必须是连续任务）、在流水线中处理的必须是连续任务（2 2）、把一个任务（一条指令或一个操作）分解为）、把一个任务（一条指令或一个操作）分解为几个有联系的子任务，每个子任务由一个专门的几个有联系的子任务，每个子任务由一个专门的功能部件来实现功能部件来实现（3 3）、在流水线的每一个功能部件的后面都要有一）、在流水线的每一个功能部件的后面都要有一个缓冲寄存器（锁存器、闸门寄存器），用于保个缓冲寄存器（锁存器、闸门寄

29、存器），用于保存本段的执行结果存本段的执行结果（4 4）、流水线中各段的时间应尽量相等，否则将引）、流水线中各段的时间应尽量相等，否则将引起起“堵塞堵塞”、“断流断流”等等（5 5）、流水线需要有）、流水线需要有“装入时间装入时间”和和“排空时间排空时间”5.2.2 流水线的分类5.2.2.1 线性流水线与非线性流水线线性流水线（线性流水线（linear pipelininglinear pipelining）将流水线的各段逐个串接起来，输入数据从流水将流水线的各段逐个串接起来，输入数据从流水线的一端进入，从另一端输出线的一端进入，从另一端输出非线性流水线非线性流水线（nonlinear pi

30、peliningnonlinear pipelining）在流水线的各个功能段之间除了有串行的连接之在流水线的各个功能段之间除了有串行的连接之外，还有反馈回路外，还有反馈回路 非线性流水线常用于递归调用，或构成多功能流非线性流水线常用于递归调用，或构成多功能流水线等水线等 图图5.285.28：一种简单的非线性流水线：一种简单的非线性流水线图图5.295.29：非线性流水线的预约表：非线性流水线的预约表 一条非线性流水线可以有很多张预约表，一张预约一条非线性流水线可以有很多张预约表，一张预约表实际上仅表示了一条非线性流水线的一种工作方表实际上仅表示了一条非线性流水线的一种工作方式式5.2.2.

31、2 流水线的级别（1 1）、功能部件级流水线（部件级流水线）：）、功能部件级流水线（部件级流水线）：也称运算操作也称运算操作流水线（流水线（arithmetic pipeliningarithmetic pipelining），），如前面的图如前面的图5.255.25（2 2）、处理机级流水线：也称指令流水线（）、处理机级流水线：也称指令流水线（instruction instruction pipeliningpipelining）流水线处理机或超流水线处理机：流水线处理机或超流水线处理机：在指令执行部件中采用了流水线的处理机在指令执行部件中采用了流水线的处理机 多操作部件处理机或超标量处理

32、机：多操作部件处理机或超标量处理机：在指令执行部件中设置有多个操作部件的处理机在指令执行部件中设置有多个操作部件的处理机 图图5.305.30：先行控制方式中的指令流水线：先行控制方式中的指令流水线 包括指令控制部件（先行控制器包括指令控制部件（先行控制器+指令分析器）、指令分析器）、指令执行部件指令执行部件（3 3）、处理机间流水线：也称宏流水线（）、处理机间流水线：也称宏流水线（macro macro pipeliningpipelining）图图5.315.31：一种宏流水线：一种宏流水线5.2.2.3 单功能与多功能流水线单功能流水线（单功能流水线（unifunctionunifunc

33、tion pipelining pipelining）：）：一条流一条流水线只能完成一种固定的功能水线只能完成一种固定的功能 Cray-1Cray-1、YH-1YH-1、PentiumPentium、Alpha 21064Alpha 21064多功能流水线（多功能流水线（multifunction pipeliningmultifunction pipelining）：）：流水流水线的各段可以进行不同的连接，在不同时间内，线的各段可以进行不同的连接，在不同时间内，或在同一时间内，通过不同的连接方式实现不同或在同一时间内，通过不同的连接方式实现不同的功能的功能 TexasTexas仪器公司的仪器

34、公司的ASCASC图5.32：TI-ASC计算机的多功能流水线 图5.32(a)：8段流水线 图5.32(b)：定点乘法 图5.32(c)：浮点加法 图5.32(d)：浮点点积，实际上是一条带有反馈回路的非线性流水线多功能流水线、设置多条专门的单功能流水线5.2.2.4 静态流水线与动态流水线静态流水线（static pipelining）在同一段时间内，多功能流水线中的各个功能段只能按照一种固定的方式连接，实现一种固定的功能图图5.335.33：静态流水线时空图：静态流水线时空图动态流水线（dynamic pipelining）在同一段时间内，多功能流水线中的各段可以按照不同的方式连接，同时

35、执行多种功能 图图5.345.34：动态流水线时空图：动态流水线时空图按照不同的数据表示方式：按照不同的数据表示方式：（1 1）、标量流水线：用于标量处理机中）、标量流水线：用于标量处理机中（2 2）、向量流水线：用于向量处理机中）、向量流水线：用于向量处理机中按照对流水线的控制方式不同：按照对流水线的控制方式不同：（1 1）、同步流水线：）、同步流水线：（2 2）、异步流水线：一般的宏流水线多采用异步流水线方式）、异步流水线：一般的宏流水线多采用异步流水线方式 图图5.355.35：一种异步流水线：一种异步流水线按照流水线输出端流出的任务与流水线输入端流入的任务的顺序是否相同：（1）、顺序流

36、水线：（2）、乱序流水线：也称无序流水线、错序流水线、异步流水线5.2.3 线性流水线的性能分析衡量流水线性能的主要指标有：（1）、吞吐率（2）、加速比（3）、效率（4）、流水线的最佳段数5.2.3.1 吞吐率吞吐率（thoughput rate，TP）：是指在单位时间内流水线所完成的任务数量或输出的结果数量 TP=n/Tk n：任务数 Tk：处理完成n个任务所用的时间图图5.365.36：各段执行时间均相等的流水线时空图：各段执行时间均相等的流水线时空图 TP=n/(k+n-1)*TP=n/(k+n-1)*t t TPTPmaxmax=1/=1/t t TP=n/(k+n-1)*TP=n/(

37、k+n-1)*TPTPmaxmax图图5.375.37：各段执行时间不相等的流水线及其时：各段执行时间不相等的流水线及其时空图空图 TPTPmaxmax=1/max(=1/max(t t1 1，t t2 2，t tk k)TPTPmaxmax=1/(3*=1/(3*t)t)当流水线中各个功能段的执行时间不完全相等时，当流水线中各个功能段的执行时间不完全相等时，流水线的最大吞吐率与实际吞吐率主要是由流水流水线的最大吞吐率与实际吞吐率主要是由流水线中执行时间最长的那个功能段来决定，这个功线中执行时间最长的那个功能段来决定，这个功能段就成了整个流水线的能段就成了整个流水线的“瓶颈瓶颈”解决流水线解决

38、流水线“瓶颈瓶颈”问题的方法：问题的方法：（1 1）、将流水线的）、将流水线的“瓶颈瓶颈”部分再细分，如部分再细分，如图图5.385.38（2 2）、通过重复设置）、通过重复设置“瓶颈瓶颈”功能段，让多个功能段，让多个“瓶瓶颈颈”功能段并行工作，如图功能段并行工作，如图5.395.39图图5.385.38：“瓶颈瓶颈”功能段再次细分功能段再次细分 TPTPmaxmax=1/=1/tt图图5.395.39：“瓶颈瓶颈”功能段重复设置的流水线功能段重复设置的流水线 TPTPmaxmax=1/=1/tt由于流水线存在有装入和排空时间，输入的任务往往不是连续的，程序本身存在有数据相关，多功能流水线在完

39、成某一种功能时有的功能段不使用等，是流水线的实际吞吐率要低于最大吞吐率5.2.3.2 加速比加速比（speedup ratio）：完成一批任务，不使用流水线所用的时间与使用流水线所用的时间之比称为流水线的加速比S=T0/Tk各个功能段执行时间均相等的一条k段流水线完成n个连续任务时的实际加速比为：S=k*n*t/(k+n-1)*t=k*n/(k+n-1)最大加速比：Smax=k图图5.405.40：任务个数与加速比的关系：任务个数与加速比的关系当流水线的各个功能段的执行时间不相等时，当流水线的各个功能段的执行时间不相等时，一条一条k k段线性流水线完成段线性流水线完成n n个连续任务时的实际个

40、连续任务时的实际加速比为：加速比为：5.2.3.3 效率效率（efficiency）：是指流水线的设备利用率；在时空图上，流水线的效率定义为n个任务占用的时空区与k个功能段总的时空区之比；流水线的效率包括有时间和空间两方面的因素E=n个任务占用的时空区/k个流水段的总的时空区=T0/(k*Tk)流水线的各段执行时间均相等：流水线的各段执行时间均相等：E=k*n*E=k*n*t/k*(k+n-1)*t/k*(k+n-1)*t=n/(k+n-1)t=n/(k+n-1)E Emaxmax=1=1E=TP*E=TP*t t，TP=E/TP=E/t t 当时钟周期当时钟周期t t不变时，流水线的效率与吞

41、吐率成不变时，流水线的效率与吞吐率成正比正比E=S/kE=S/k，S=k*ES=k*E 流水线的效率是流水线实际加速比流水线的效率是流水线实际加速比S S与它的最大加与它的最大加速比速比k k之比之比流水线的各段执行时间不相等：流水线的各段执行时间不相等：当考虑流水线各段所使用的设备量不相等，或者流水线各当考虑流水线各段所使用的设备量不相等，或者流水线各段的价格不相等的情况，流水线的效率为：段的价格不相等的情况，流水线的效率为：E=nE=n个任务占用的加权时空区个任务占用的加权时空区/k k个流水段的总的加权时空个流水段的总的加权时空区区其中，其中，p pi ik=8=8本讲作业：P342：5.1 5.2 5.4谢 谢！