精确断点与不精确断点精品课件.ppt

《精确断点与不精确断点精品课件.ppt》由会员分享，可在线阅读，更多相关《精确断点与不精确断点精品课件.ppt（65页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、5.3.7 5.3.7 精确断点与不精确断点精确断点与不精确断点对于输入输出设备的中断服务，实际上不需要有精确对于输入输出设备的中断服务，实际上不需要有精确断点。断点。比较简单的处理方法是：让已经进入流水线的所有指令都执行完成，断点就是最后进入流水线的那条指令的地址。对于程序性错误和机器故障等引起的中断，它们出现对于程序性错误和机器故障等引起的中断，它们出现的概率很低，处理原则：的概率很低，处理原则：不在于缩短时间，关键是不在于缩短时间，关键是要正确保存现场和正确恢复断点。要正确保存现场和正确恢复断点。不精确断点不精确断点(Imprecise)，流水线可以不断流流水线可以不断流需要的硬件比较少

2、，控制逻辑比较简单需要的硬件比较少，控制逻辑比较简单中断响应时间加长中断响应时间加长 采用不精确断点法可能会发生如下两个问题：采用不精确断点法可能会发生如下两个问题：(1)(1)程序的调试困难程序的调试困难调试程序时要设置断点，程序员通过查看断点处的中间执行结果判断程序是否正确。但由于不精确断点，程序不能准确中断，因此，难于调试。早期的流水线处理机，多采用不精确断点法近期的流水线处理机一般都采用精确断点法 申申请请中中断断 输输入入 S1 S2 S3 S4 S5 S6 S7 S8 输输出出 PC： i+5 i+4 i+3 i+2 i+1 i i-1 i-2 不不精精确确断断点点 精精确确断断点

3、点 (2)(2)程序执行的结果可能出错，例如：程序执行的结果可能出错，例如： i i：FADD R1, R2 FADD R1, R2 ；(R1)(R1)(R2)R1(R2)R1 i+1 i+1：FMUL R3, R1 FMUL R3, R1 ；(R3)(R3)(R1)R3(R1)R3当第i条指令执行到S6段时发现浮点加法结果溢出，于是发出中断服务申请。由于采用不精确断点法，已经进入流水线的第i+1条指令将执行完成；因为第i+1条指令使用了不正确的R1，所以浮点乘法的执行结果是不正确的。采用精确断采用精确断(Precise)(Precise)点法，要设置一定数量的后援点法，要设置一定数量的后援寄

4、存器寄存器，把整个流水线中所有指令的执行结果和现场都保存下来。5.4 5.4 动态调度技术动态调度技术5.4.1 顺序流动与乱序流动顺序流动与乱序流动5.4.2 乱序流动中的数据相关乱序流动中的数据相关5.4.3 数据重定向方法数据重定向方法5.4.4 Tomasulo动态调度算法动态调度算法实现方法：实现方法： 由硬件动态调整指令执行顺序，以减少数据相关造由硬件动态调整指令执行顺序，以减少数据相关造成的影响。成的影响。主要优点：主要优点：能够处理在编译时无法确定的相关，并简化编译器设计在其他流水线机器上编译的目标代码也能够高效运行用静态调度法生成的代码也能在动态调度法的机器中运行主要缺点：主

5、要缺点：指令级并行度低，因为只能在比较小的范围内寻找并行性5.4.1 5.4.1 顺序流动与乱序流动顺序流动与乱序流动1.1.顺序流动方式：顺序流动方式：任务按顺序流入流水线任务按顺序流入流水线, ,也按顺序也按顺序流出流水线流出流水线把如下一段程序输入到这条流水线中： k： R0（R1） k+1： k+2： R2（R0）（R3） k+3： k+4： k+5： 读读 专专用用数数据据通通路路 写写 输输入入 S1 S2 S3 S4 S5 S6 输输出出 寄寄存存器器R0 指令指令k+2k+2无法继续执行，要在功能段无法继续执行，要在功能段S2中等待。中等待。后续的指令后续的指令k+4k+4、k

6、+5k+5、等也不能进入流水线。等也不能进入流水线。功能段功能段S3、S4、S5将逐渐空闲。将逐渐空闲。缺点：缺点：吞吐率和效率降低吞吐率和效率降低优点：优点：流水线的控制逻辑比较简单流水线的控制逻辑比较简单流水线流水线“断流断流”，有些功能段，有些功能段“空闲空闲” 时时钟钟周周期期ti+4k k+ +4 4k k+ +3 3k k+ +2 2空空闲闲空空闲闲空空闲闲ti+3k k+ +3 3k k+ +2 2空空闲闲空空闲闲空空闲闲k k+ +1 1ti+2k k+ +3 3k k+ +2 2空空闲闲空空闲闲k k+ +1 1k kti+1k k+ +3 3k k+ +2 2空空闲闲k k

7、+ +1 1K Kk k- -1 1tik k+ +3 3k k+ +2 2k k+ +1 1k kk k- -1 1k k- -2 2正正常常流流动动k k+ +5 5k k+ +4 4k k+ +3 3k k+ +2 2k k+ +1 1k k功功能能段段功功能能段段S1S2S3S4S5S6顺顺序序流流动动方方式式2.2.乱序乱序(Out of order)流动方式：流动方式：指令流出流水线的顺序与流入指令流出流水线的顺序与流入流水线的顺序不同。流水线的顺序不同。又称为错序流动方式、无序流动方式、异步流动方式等。时时钟钟周周期期ti+5k+8(k+7)k+6k+2K+5k+4k+3ti+4

8、k+7(k+6)k+2k+5K+4k+3k+1ti+3k+6k+5(k+2)k+4k+3k+1kti+2k+5k+4(k+2)k+3k+1kk-1Ti-+1k+4k+3(k+2)k+1kK-1k-2tik+3(k+2)k+1kk-1k-1k-3正正常常流流动动k+5k+4k+3k+2k+1k功功能能段段功功能能段段S1S2S3S4S5S6乱乱序序流流动动方方式式5.4.2 5.4.2 乱序流动中的数据相关乱序流动中的数据相关在乱序流动方式中，可能发生三种数据相关在乱序流动方式中，可能发生三种数据相关 写写相关写写相关 k： LOAD F1, A ;F1（A） 写读相关写读相关 k+1：FADD

9、 F2, F1 ;F2（F2）+（F1） k+2：FMUL F1, F3 ;F1（F1）（F3） k+3：STORE F1, B ;B（F1）读写相关读写相关(1)写读相关：写读相关：指令k与指令k+1之间关于F1的相关，又称为数据相关、先写后读相关、流相关、数据相关、先写后读相关、流相关、WR相关、相关、RAW相关相关等。(2)读写相关：读写相关：指令k+1与指令k+2之间关于F1的相关，变量名相关、先读后写相关、反相关、RW相关、WAR相关等。(3)写写相关：写写相关：指令k与指令k+2左边的F1之间的相关关系称为：输出相关、写写相关、WW相关、WAW相关或写后再写相关等。有时把相关相关称

10、为“冒险冒险”(hazard)、“竟争竟争” (competition)等。在程序执行过程中，只有避免相关，执行结果才是正在程序执行过程中，只有避免相关，执行结果才是正确的。确的。 三种数据相关可以用下列关系式来表示：三种数据相关可以用下列关系式来表示： 对于写读相关 D(i) S(j) 对于读写相关 S(i) D(j) 对于写写相关 D(i) D(j) ( (写写) ) ( (写写) ) ( (读读) ) ( (写写) ) ( (a a) ) 写写读读相相关关 ( (b b) ) 写写写写相相关关 ( (读读) ) ( (写写) ) i i 先先于于j j。 ( (c c) ) 读读写写相相

11、关关 S(i) S(i) S(i) D(i) D(i) D(i) S(j) S(j) S(j) D(j) D(j) D(j) 5.4.3 5.4.3 数据重定向方法数据重定向方法1.1.三种数据相关的重定向三种数据相关的重定向 重定向之前，j只能在i之后执行。 重定向之后，可以做到：(1)(1)写读相关，写读相关，j j与与i i可以同时执行可以同时执行 即专用数据通路即专用数据通路(2)(2)写写相关，写写相关，先后顺序无关先后顺序无关(3)(3)读写相关，读写相关，先后顺序无关先后顺序无关 后两种情况又称为后两种情况又称为“变量换名技术变量换名技术”B BB B i i j j i iA

12、AC CA Aj jC C( (a a) ) 写写读读相相关关的的数数据据重重定定向向B BB BB B i i j j i i j jA AC CA AC C( (b b) ) 写写写写相相关关的的数数据据重重定定向向B BB B i i j j j jA AC CA Aj jC C i iB B ( (c c) ) 读读写写相相关关的的数数据据重重定定向向2.2.变量换名技术变量换名技术用来自动消除读写数据相关读写数据相关和写写数据相关写写数据相关规则：一个变量只允许定值一次一个变量只允许定值一次在三种数据相关中，实际上只有写读数据相关必须依靠硬件、或采用软硬件结合的方法来解决 解决方法：

13、推后处理推后处理或专用数据通路专用数据通路在上面的数据重定向图中，把B换成了B，并在以后的都引用B读写数据相关和写写数据相关就不存在了。一个实际例子：Loop: LD F0, 0(R1) ADD F0, F2 SD 0(R1), F0 LD F0, -8(R1) ADD F0, F2 SD -8(R1), F0 LD F0, -16(R1) ADD F0, F2 SD -16(R1), F0 LD F0, -24(R1) ADD F0, F2 SD -24(R1), F0 SUBI R1, R1, #32 BNEZ R1, LoopLoop: LD F0, 0(R1) LD F4, -8(R1

14、) LD F6, -16(R1) LD F8, -24(R1) ADD F0，F2 ADD F4，F2 ADD F6，F2 ADD F8，F2 SD 0(R1), F0 SD -8(R1), F4 SUBI R1, R1, #32 SD -16(R1), F6 BNEZ R1, Loop SD -24(R1), F83.3.一个简单的程序：一个简单的程序： k： LOAD F1, A k+1： FADD F1, F2 k+2： FMUL F1, F3 k+3： STORE F1, B A k+1k+1 FADDFADD k+1 k+1 F2 k k k+1 k+1 F1 k+3 k+3 k+2

15、 k+2 B k+2k+2 FMULFMUL k+2 k+2 F3 A AK K，k k+ +1 1F FA AD DD D k k+ +1 1F2F1k k+ +1 1k k+ +2 2 k k+ +2 2B Bk k+ +2 2, ,k k+ +3 3F FM MU UL L k k+ +2 2F3专门设置：AFADDAFADD、FMULBFMULB、FADDFMULFADDFMUL三条专用路径。撤消：F1FADD、F1FMUL、FADDF1 、AF1的路径。5.4.4 Tomasulo5.4.4 Tomasulo动态调度动态调度算法算法P310P310实用的动态调度算法主要有两种:(1)

16、集中控制：CDC计分牌计分牌(scorebord)算法， 最先在CDC 6600大型机中采用。(2)分散控制：TomasuloTomasulo算法算法, , 公共数据总线公共数据总线法，令牌法等。最早在大型机IBM 360/91的浮点处理部件中被采用。以上面的一段程序为例说明TomasuloTomasulo算法算法k： LOAD F1, Ak+1： FADD F1, F2k+2： FMUL F1, F3k+3： STORE F1, B5.5 5.5 超标量处理机超标量处理机5.5.1 基本结构基本结构5.5.2 单发射与多发射单发射与多发射5.5.3 多流水线调度多流水线调度5.5.4 资源冲

17、突资源冲突5.5.5 超标量处理机性能超标量处理机性能三种主流处理机：三种主流处理机： 超标量处理机超标量处理机 超流水线处理机超流水线处理机 超标量超流水线处理机超标量超流水线处理机以以一一台台k k 段段流流水水线线的的普普通通标标量量处处理理机机为为基基准准 超超标标量量处处理理机机、超超流流水水线线处处理理机机和和超超标标量量超超流流水水线线处处理理机机的的主主要要性性能能： 机器类型 k段流水线 标量处理机 m度 超标量处理机 n度 超流水线处理机 (m,n)度超标量 超流水线处理机 机器流水线周期 1个时钟周期 1 1n 1n 同时发射指令条数 1条 m 1 m 指令发射等待时间

18、1个时钟周期 1 1n 1n 指令级并行度ILP 1 m n mn 5.5.1 5.5.1 基本结构基本结构普通标量流水线处理机：普通标量流水线处理机： 一条指令流水线一条指令流水线，一个多功能操作部件一个多功能操作部件， 每个时钟周期平均执行指令的条数小于1。多操作部件标量处理机：多操作部件标量处理机： 一条指令流水线一条指令流水线，多个独立的操作部件，多个独立的操作部件， 指令级并行度小于1。超标量处理机典型结构：超标量处理机典型结构： 多条并行工作的指令流水线多条并行工作的指令流水线，多个独立的操作部件，多个独立的操作部件， 指令级并行度（指令级并行度（ILP）大于）大于1。整数整数 部

19、件部件 整数整数 部件部件 位操位操作作 部件部件 浮点浮点加加 部件部件 乘法乘法 部件部件 除法除法 部件部件 图形图形 部件部件 图形图形 部件部件 内部总线内部总线 读数存数读数存数 部件部件 通用寄通用寄 存器堆存器堆 扩展扩展 寄存器堆寄存器堆 目标目标 指令指令 CacheCache 指令分配指令分配 转移部件转移部件 数据数据 CacheCache（8K8KB B） 指令指令 CacheCache（8K8KB B） 3232 位地址总线位地址总线 6464 位数据总线位数据总线 系统总线系统总线 超标量处理机超标量处理机 MC88110MC88110 的结构的结构 Motoro

20、laMotorola公司的公司的MC88110MC88110有10个操作部件两个寄存器堆：整数部件通用寄存器堆，32个32位寄存器浮点部件扩展寄存器堆，32个80位寄存器缓冲深度为4的先行读数栈缓冲深度为3的后行写数栈两个独立的高速Cache中，各为8KB，采用两路组相联方式转移目标指令Cache，用于存放另一条分支上的指令5.5.2 5.5.2 单发射与多发射单发射与多发射1.1.单发射处理机：单发射处理机：每个周期只取一条指令、只译码一条指令，只执行一每个周期只取一条指令、只译码一条指令，只执行一条指令，只写回一个运算结果。条指令，只写回一个运算结果。取指令部件和指令译码部件各设置一套；只

21、设置一个多功能操作部件或设置多个独立的操作部件；操作部件中可以采用流水线结构，也可以不采用流水线结构。目标是每个时钟周期平均执行一条指令，ILP的期望值为1。2.2.多发射处理机：多发射处理机：每个周期同时取多条指令、同时译码多条指令，同时每个周期同时取多条指令、同时译码多条指令，同时执行多条指令，同时写回多个运算结果执行多条指令，同时写回多个运算结果。多个取指令部件，多个指令译码部件和多个写结果部多个取指令部件，多个指令译码部件和多个写结果部件。件。设置多个指令执行部件，设置多个指令执行部件，有些指令执行部件采用流水线结构。目标是每个时钟周期平均执行多条指令，ILP的期望值大于1。单单 发发

22、 射射 处处 理理 机机 的的 指指 令令 流流 水水 线线 时时 空空 图图 1 2 3 4 5 6 I1 IF ID EX W R 时时 钟钟 周周 期期 I2 IF ID EX W R I3 IF ID EX W R 指指 令令 多多 发发 射射 处处 理理 机机 的的 指指 令令 流流 水水 线线 时时 空空 图图 1 2 3 4 5 6 I1 IF ID EX W R 时时 钟钟 周周 期期 I2 IF ID EX W R I3 IF ID EX W R I4 IF ID EX W R I5 IF ID EX W R I6 IF ID EX W R I7 IF ID EX W R I

23、8 IF ID EX W R I9 IF ID EX W R 指指 令令 单单发发射射处处理理机机的的指指令令流流水水线线 取取指指令令 指指令令译译码码 执执行行指指令令EX 写写回回结结果果 FA1 FA2 FA3 浮浮点点加加法法部部件件 来来自自指指令令 Cache IF ID MD1 MD2 MD3 WR 通通用用寄寄存存器器 后后行行写写数数栈栈 乘乘除除法法部部件件 AL 定定点点算算术术逻逻辑辑部部件件 LS 取取数数存存数数部部件件 同同时时发发射射两两条条指指令令的的多多发发射射处处理理机机的的指指令令流流水水线线 取取指指令令 指指令令译译码码 执执行行指指令令 写写回回

24、结结果果 FA1 FA2 FA3 浮浮点点加加法法部部件件 来来自自指指令令 Cache IF1 ID1 MD1 MD2 MD3 WR1 通通用用寄寄存存器器 后后行行写写数数栈栈 乘乘除除法法部部件件 来来自自指指令令 Cache IF2 ID2 AL WR2 通通用用寄寄存存器器 后后行行写写数数栈栈 定定点点算算术术逻逻辑辑部部件件 LS 取取数数存存数数部部件件 3.3.超标量处理机：超标量处理机：有两条或两条以上能同时工作的指令流水线先行指令窗口先行指令窗口：能够从指令Cache中预取多条指令，能够对窗口内的指令进行数据相关性分析和功能部件冲突检测。例如：例如：Intel公司的i86

25、0、i960、Pentium，Motolora公司的MC88110，IBM公司的Power 6000,TI公司生产SuperSPARC等操作部件的个数一般多于每个周期发射的指令条数。通常为4 个至16个操作部件。超标量处理机的指令级并行度：超标量处理机的指令级并行度：1ILPm有有先先行行指指令令窗窗口口的的超超标标量量处处理理机机的的流流水水线线结结构构 取取指指令令 指指令令译译码码 执执行行指指令令 写写回回结结果果 FA1 FA2 FA3 浮浮点点加加法法部部件件 指指令令 Cache IF1 ID1 MD1 MD2 MD3 WR1 通通用用寄寄存存器器 后后行行写写数数栈栈 乘乘除除

26、法法部部件件 指指令令 Cache IF2 ID2 AL WR2 通通用用寄寄存存器器 后后行行写写数数栈栈 定定点点算算术术逻逻辑辑部部件件 IF3 ID3 LS 先先行行指指令令窗窗口口 取取数数存存数数部部件件 F FA A：浮浮点点加加减减法法运运算算，M MD D：乘乘除除法法运运算算，A AL L：定定点点算算术术逻逻辑辑运运算算，L LS S 取取数数存存数数 5.5.3 5.5.3 多流水线调度多流水线调度顺序发射(in-order issue)与乱序发射(out-order issue)：指令发射顺序是按照程序中指令排列顺序进行的称指令发射顺序是按照程序中指令排列顺序进行的称

27、为顺序发射为顺序发射顺序完成(in-order completion)与乱序完成(out-order completion)：指令完成顺序是按照程序中指令排列指令完成顺序是按照程序中指令排列顺序进行的称为顺序完成顺序进行的称为顺序完成多流水线的调度主要有三种方法：多流水线的调度主要有三种方法：顺序发射顺序完成顺序发射顺序完成顺序发射乱序完成顺序发射乱序完成乱序发射乱序完成乱序发射乱序完成以如下以如下6 6条指令组成的程序为例，说明这三种调度方条指令组成的程序为例，说明这三种调度方法法 I1：LOAD R1, A ；R1(A) I2：FADD R2, R1 ；R2(R2)(R1) I3：FMUL

28、 R3, R4 ；R3(R3)(R4) I4：FADD R4, R5 ；R4(R4)(R5) I5：DEC R6 ；R6(R6)1 I6：FMUL R6, R7 ；R6(R6)(R7)6条指令中有4个数据相关，包括2个写读相关，1个读写相关和1个写写相关。1.1.顺序发射顺序完成顺序发射顺序完成 共用共用1010个时钟周期完成个时钟周期完成 还有有8 8个空闲的时钟周期个空闲的时钟周期顺顺序序发发射射顺顺序序完完成成的的指指令令流流水水线线时时空空图图 1 2 3 4 5 6 7 8 9 10 I1 IF1 ID1 LS WR1 时时钟钟周周期期 I2 IF2 ID2 FA1 FA2 FA2

29、WR2 I3 IF1 ID1 MD1 MD2 MD3 WR1 I4 IF2 ID2 FA1 FA2 FA3 WR2 I5 IF1 ID1 AL WR1 I6 IF2 ID2 MD1 MD2 MD3 WR2 指指令令 I IF F：取取指指令令，I ID D：指指令令译译码码，L LS S 取取数数存存数数，F FA A：浮浮点点加加减减法法运运算算， M MD D：乘乘除除法法运运算算，A AL L：定定点点算算术术逻逻辑辑运运算算 W WR R：写写回回运运算算结结果果 2.2.顺序发射乱序完成顺序发射乱序完成 总的执行时间为总的执行时间为9 9个时钟周期个时钟周期， 节省了一个时钟周期节省

30、了一个时钟周期。少了少了5 5个空闲时钟周期个空闲时钟周期。顺顺序序发发射射乱乱序序完完成成的的流流水水线线时时空空图图 1 2 3 4 5 6 7 8 9 I1 IF1 ID1 LS WR1 时时钟钟周周期期 I2 IF2 ID2 FA1 FA2 FA2 WR2 I3 IF1 ID1 MD1 MD2 MD3 WR1 I4 IF2 ID2 FA1 FA2 FA3 WR2 I5 IF1 ID1 AL WR1 I6 IF2 ID2 MD1 MD2 MD3 WR2 指指令令 顺顺序序发发射射乱乱序序完完成成的的指指令令完完成成次次序序 时时钟钟周周期期 4 4 5 5 6 6 7 7 8 8 9 9

31、 流流水水线线 1 1 I1 I5 I3 流流水水线线 2 2 I2 I4 I6 3. 3. 乱序发射乱序完成乱序发射乱序完成没有空闲周期，功能部件得到充分利用。没有空闲周期，功能部件得到充分利用。 总的执行时间为总的执行时间为8个周期个周期，节省节省2个周期。个周期。乱乱序序发发射射乱乱序序完完成成调调度度方方法法的的流流水水线线时时空空图图 1 2 3 4 5 6 7 8 流流水水线线 1 1 I I1 1 IF1 ID1 LS WR1 时时钟钟周周期期 流流水水线线 2 2 I I3 3 IF2 ID2 MD1 MD2 MD3 WR2 先先行行窗窗口口 I I4 4 IF3 ID3 FA

32、1 FA2 FA3 WR1 I2 IF1 ID1 FA1 FA2 FA3 WR1 I5 IF2 ID2 AL WR2 I6 IF1 ID1 MD1 MD2 MD3 WR1 指指令令 指指令令在在流流水水线线中中的的发发射射次次序序 指指令令在在流流水水线线中中的的完完成成次次序序 时时钟钟周周1 2 3 时时钟钟周周期期 4 5 6 7 8 流流水水线线 1 1 I1 I2 I6 流流水水线线 1 1 I1 I4 I2 I6 流流水水线线 2 2 I3 I5 流流水水线线 2 2 I5 I3 先先行行窗窗口口 I4 5.5.4 5.5.4 资源冲突资源冲突如果操作部件采用流水线结构，发生资源冲

33、突的可能性很小；如果不采用流水线结构，发生资源冲突的可能性就比较大。下面是一个由4条指令的程序例子： I1：FADD R0, R1 ；R0(R0)(R1) I2：FMUL R2, R3 ；R2(R2)(R3) I3：FADD R4, R5 ；R4(R4)(R5) I4：FMUL R6, R7 ；R6(R6)(R7)双双 流流 水水 线线 超超 标标 量量 处处 理理 机机 ， 操操 作作 部部 件件 不不 采采 用用 流流 水水 线线 的的 时时 空空 图图1234567891011流流 水水 线线1 I1IF1 ID1FADDW R1 时时 钟钟 周周 期期流流 水水 线线2 I2IF2 I

34、D2FM ULW R2流流 水水 线线1 I3IF1 ID1FADDW R1流流 水水 线线2 I4IF2 ID2FM ULW R2 指指 令令I IF F： 取取 指指 令令 ， I ID D： 指指 令令 译译 码码 ， F FA AD DD D： 浮浮 点点 加加 法法 ， F FM MU UL L： 浮浮 点点 乘乘 法法 ， W WR R： 写写 回回 结结 果果 操作部件不采用流水线：操作部件不采用流水线： 做完做完4 4条指令总共用了条指令总共用了1111个周期，个周期， 有有5 5个空闲周期个空闲周期。操作部件采用流水线：操作部件采用流水线： 做完做完4 4条指令共用条指令共用

35、8 8个周期，个周期， 少用少用3 3个周期。个周期。双双流流水水线线超超标标量量处处理理机机，操操作作部部件件采采用用流流水水线线的的时时空空图图 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 流流水水线线1 I1 I IF F1 1 I ID D1 1 F FA AD DD D1 1 F FA AD DD D2 2 F FA AD DD D3 3 W WR R1 1 时时钟钟周周期期 流流水水线线2 I2 I IF F2 2 I ID D2 2 F FM MU UL L1 1 F FM MU UL L2 2 F FM MU UL L3 3 F FM MU UL L4 4 W

36、WR R2 2 流流水水线线1 I I3 3 I IF F1 1 I ID D1 1 F FA AD DD D1 1 F FA AD DD D2 2 F FA AD DD D3 3 W WR R1 1 流流水水线线2 I I4 4 I IF F2 2 I ID D2 2 F FM MU UL L1 1 F FM MU UL L2 2 F FM MU UL L3 3 F FM MU UL L4 4 W R2 指指令令 I IF F：取取指指令令，I ID D：指指令令译译码码，F FA AD DD D：浮浮点点加加法法，F FM MU UL L：浮浮点点乘乘法法，W WR R：写写回回结结果果

37、操作部件采用流水线结构的原因分析操作部件采用流水线结构的原因分析假每个周期发射m条指令，操作部件的延迟时间为k个周期，如果操作部件不采用流水线结构，则使用同一个操作部件的两条指令应该至少相差至少相差mk如果操作部件采用k段流水线结构，则使用同一个操作部件的两条指令只需相差只需相差m或或m以上以上指令流水线的段数k一般在4至10之间，每个时钟周期发射的指令条数m在2至4之间。取中间值，k7，m3为了不发生资源冲突，如果操作部件不采用流水线结构， 两条使用同一个功能部件的指令序号必须相差两条使用同一个功能部件的指令序号必须相差21或或21以上。以上。如果操作部件采用流水线结构， 两条使用同一个功能

38、部件的指令序号只需要相差两条使用同一个功能部件的指令序号只需要相差3或或3以上。以上。因此，在超标量处理机中，操作部件一般要采用流水线因此，在超标量处理机中，操作部件一般要采用流水线结构。结构。 如果由于某种原因，操作部件不能采用流水线结构，则必须设置多个相同种类的操作部件普通标量处理机，希望相同操作连续出现。 只有连续出现相同操作的指令序列时，流水线的效率才能得到充分发挥。超标量处理机超标量处理机则正好相反，希望相同操作不要连续出希望相同操作不要连续出现现。相同操作的指令序列连续出现时，会发生资源冲突；要求相同操作的指令能够相对均匀地分布在程序中。超标量处理机的这种要求正好符合一般标量程序的

39、特超标量处理机的这种要求正好符合一般标量程序的特点点。5.5.5 5.5.5 超标量处理机性能超标量处理机性能单流水线普通标量处理机的指令级并行度记作(1, 1)，超标量处理机的指令级并行度记作(m, 1)，超流水线处理机的指令级并行度记作(1, n)，而超标量超流水线处理机的指令级并行度记作(m, n)。在理想情况下，N条指令在单流水线标量处理机上的执行时间为： T(1, 1)(kN1) t在每个周期发射m条指令的超标量处理机上执行的时间为： 超标量处理机相对于单流水线标量处理机的加速比为：超标量处理机的加速比的最大值为：S( (m,1),1)MAXmtmmNkmT)() 1 ,() 1()

40、 1() 1 ,() 1 , 1 () 1 ,(kmNNkmmTTmS5.6 5.6 超流水线处理机超流水线处理机5.6.1 指令执行时序指令执行时序5.6.2 典型处理机结构典型处理机结构5.6.3 超流水线处理机性能超流水线处理机性能超流水线处理机的两种定义：超流水线处理机的两种定义：在一个周期内分时发射多条指令的处理机指令流水线的段数大于等于8的流水线处理机提高处理机性能的两种方法：提高处理机性能的两种方法：通过增加硬件资源来提高处理机性能通过各部分硬件的重叠工作来提高处理机性能两种不同并行性：两种不同并行性：超标量处理机采用的是空间并行性。超标量处理机采用的是空间并行性。超流水线处理机

41、采用的是时间并行性。超流水线处理机采用的是时间并行性。5.6.1 5.6.1 指令执行时序指令执行时序每隔每隔1/n个时钟周期发射一条指令个时钟周期发射一条指令， 即处理机的流水线周期为1/n个时钟周期。每每个个时时钟钟周周期期分分时时发发射射 3 3 条条指指令令的的超超流流水水线线处处理理机机的的指指令令执执行行时时空空图图 1 1 2 2 3 3 4 4 5 5 6 6 I1 IF I ID D EX WR 时时钟钟周周期期 I2 IF ID EX W WR R I3 IF ID EX WR I4 IF ID EX WR I5 IF ID EX WR I6 IF ID EX WR I7

42、IF ID EX WR I8 IF ID EX WR 指指令令 I9 IF ID EX WR 5.6.2 5.6.2 典型处理机结构典型处理机结构MIPS R4000MIPS R4000处理机：处理机： 每个时钟周期包含两个流水段每个时钟周期包含两个流水段是一种很标准的超流水线处理机结构。指令流水线有8个流水段。指令Cache和数据Cache的容量各8KB，每个时钟周期可以访问Cache两次，在一个时钟周期内可以从指令Cache中读出两条指令，从数据Cache中读出或写入两个数据。主要运算部件有整数部件和浮点部件。MIPS R4000MIPS R4000 处理机的流水线操作处理机的流水线操作

43、IF IS RF EX DF DS TC WB 指令指令 指令译码指令译码 Cache 数据数据 寄存寄存 读读寄寄存存器器 ALU Cache 标标 志志 检检 验验 器堆器堆 IF：取第一条指令；：取第一条指令；IS：取第二条指令；：取第二条指令；RF：读寄存器堆，指令译码；：读寄存器堆，指令译码； EX：执行指令；：执行指令；DF：取第一个数据；：取第一个数据；DS：取第二个数据；：取第二个数据；TC：数据标志检验；：数据标志检验； WB：写回结果：写回结果 M MI IP PS S R R4 40 00 00 0 正正常常指指令令流流水水线线工工作作时时序序 主主时时钟钟周周期期 当当

44、前前 CPU 周周期期 IF IS RF EX DF DS TC WB IF IS RF EX DF DS TC WB IF IS RF EX DF DS TC WB IF IS RF EX DF DS TC WB IF IS RF EX DF DS TC WB IF IS RF EX DF DS TC WB IF IS RF EX DF DS TC WB IF IS RF EX DF DS TC WB IF：取取第第一一条条指指令令；IS：取取第第二二条条指指令令；RF：读读寄寄存存器器堆堆，指指令令译译码码； EX：执执行行指指令令；DF：取取第第一一个个数数据据；DS：取取第第二二个个数

45、数据据；TC：数数据据标标志志检检验验； WB：写写回回结结果果 流流水水 线线 周周期期 如果在LOAD指令之后的两条指令中，任何一条指令要在它的EX流水级使用这个数据，则指令流水线要暂停一个时钟周期。指令 运行 暂停 暂停 运行 运行 运行 运行 运行 运行 运行 运行 I1 DF DS TC WB LOAD指令 I2 EX DF DS TC WB 使用LOAD数据 I3 RF EX DF DS TC WB I4 IS RF EX DF DS TC WB I5 IF IS RF EX DF DS TC WB I6 IF IS RF EX DF DS TC WB 5.6.3 5.6.3 超流

46、水线处理机性能超流水线处理机性能指令级并行度为(1,n)的超流水线处理机，执行N条指令所的时间为：超流水线处理机相对于单流水线普通标量处理机的加速比为： 加速比的最大值为：S(1, n)MAXnTnkntN( , )()111) 1()1() 1(), 1 () 1 , 1 (), 1 (NnkNkntnNktNknTTnS5.7 5.7 超标量超流水线处理机超标量超流水线处理机一个时钟周期发射一个时钟周期发射m次，每次发射次，每次发射n条指令条指令 5.7.1 指令执行时序指令执行时序5.7.2 典型处理机结构典型处理机结构5.7.3 超标量超流水线处理机性能超标量超流水线处理机性能5.7.

47、4 三种处理机的性能比较三种处理机的性能比较每每个个时时钟钟周周期期发发射射 3 3 次次，每每次次同同时时发发射射 3 3 条条指指令令的的 超超标标量量超超流流水水线线处处理理机机的的指指令令执执行行时时空空图图 1 1 2 2 3 3 4 4 5 5 6 6 I1 IF ID EX WR 时时钟钟周周期期 I2 IF ID EX WR I3 IF ID EX WR I4 I IF F ID EX WR I5 IF ID EX WR I6 IF ID EX WR I7 IF ID EX WR I8 IF ID EX WR I9 IF ID EX WR I10 IF ID EX WR I11

48、 IF ID EX WR I12 IF ID EX WR 指指令令 I IF F：取取指指令令，I ID D：指指令令译译码码，E EX X：执执行行指指令令，W WR R：写写回回结结果果 5.7.1 5.7.1 指令执行时序指令执行时序5.7.2 5.7.2 典型处理机结构典型处理机结构DEC公司的Alpha处理机为典型的超标量超流水线结构超标量超流水线结构。主要由四个功能部件和两个Cache组成：整数部件EBOX 浮点部件FBOX 地址部件ABOX 中央控制部件IBOX 指令Cache和数据Cache在EBOX内还有多条专用数据通路，可以把运算结果直接送到执行部件。中央控制部件IBOX能

49、够同时完成： 同时读出两条指令； 同时对两条指令进行译码，并作相关性检测； 如果资源和相关性允许，IBOX就把两条指令同时发射给EBOX、ABOX和FBOX三个执行部件中的两个。指令流水线的控制方式： 采用顺序发射乱序完成顺序发射乱序完成。在指令Cache中有一个转移历史表，实现条件转移的动态预测。Alpha 21064Alpha 21064处理机共有处理机共有三条指令流水线：三条指令流水线：(1)(1)整数操作流水线为整数操作流水线为7 7个流水段个流水段，其中，取指令2个流水段、分析指令2个流水段、运算2个流水段、写结果1个流水段。(2)(2)访问存储器流水线为访问存储器流水线为7 7个流

50、水段个流水段。(3)(3)浮点操作流水线分为浮点操作流水线分为1010个流水段个流水段，其中，浮点执行部件FBOX的延迟时间为6个流水段。 三条指令流水线的平均段数为三条指令流水线的平均段数为(7+7+10)/3=8(7+7+10)/3=8，且每个时钟周期发射两条指令。因此，Alpha 21064处理机为超标量超流水线处理机。7 7 个个流流水水段段的的整整数数操操作作流流水水线线( (0 0) )( (1 1) )( (2 2) )( (3 3) )( (4 4) )( (5 5) )( (6 6) )IFSWAPI0I1A1A2WRI IF F：取取指指令令；S SW WA AP P：交交