自考计算机系统结构重叠流水和向量处理机.pptx

《自考计算机系统结构重叠流水和向量处理机.pptx》由会员分享，可在线阅读，更多相关《自考计算机系统结构重叠流水和向量处理机.pptx（24页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、5.1.1 基本思想和一次重叠指指令令的的重重叠叠解解释释是在解释第k条指令的操作完成之前，就可开始解释第k+1条指令。显然，重叠解释并不能加快一条指令的解释，但却能加快相邻两条以至整段程序的解释。分析指令重叠过程，首先看取取指指k+1k+1与与分分析析k k。它们在时间上重叠，但取指要访问主存，分析中取操作数也可能访问主存，这样，在一般的指令和数据混存于同一台机器的情况下，就出现了主存冲突主存冲突问题。一种方法让让操操作作数数和和指指令令分分别别存存放放在在两两个个独独立立编编址址且且可可同同时时访访问问的的存存储储器器中中。这有利于实现指令的保护，但增加了主存总线控制的复杂性及软件设计的麻

2、烦。第二种方法是采采用用多多体体交交叉叉主主存存结结构构，尽尽量量让让第第k k条条指指令令的的操操作作数数与与第第k+1k+1条条指指令令不不在在同同一一个个存存储储体体内内，就能在一个主存周期取得。但如果正好共存于同一个存储体就不能重叠了。第三种方法是增增设设采采用用先先进进先先出出方方式式工工作作的的指指令令缓缓冲冲寄寄存存器器。可乘主存有空时，预取下一条或几条指令存于指缓中。第1页/共24页接着，看执执行行k k与与分分析析k+1k+1。为了实现它们的重叠，硬硬件件上上应应有有独独立立的的指指令令分分析析部部件件和和指指令令执执行行部部件件。而且，由于执行时间的不同，还需在硬硬件件上上

3、解解决决控控制制上上的的同同步步问问题题。此外，当第第k k条条指指令令是是转转移移指指令令时时，还还需需采用延迟转移技术采用延迟转移技术使重叠效率不致下降。在控制上还还需需解解决决邻邻近近指指令令之之间间可可能能出出现现的的数数和和指指令相关令相关的问题。第2页/共24页5.1.2 相关处理1.指令相关的处理指令相关的处理如果采用机器指令可修改的办法经第k条指令的执行来形成第k+1条指令，由于在执行k的末尾才形成第k+1条指令，按照一次重叠的时间关系，为避免出错，第k、k+1条指令就不能同时解释，这时这两条指令之间就发生了指令相关指令相关。为解决指令相关问题，可设设置置一一条条“执执行行”指

4、指令令解解决决。在这条执行指令中，被修改的指令以“执行”指令操作数形式出现，这样就将将指指令令相相关关转转化化成成了了数数据据相关相关因为操作数可以存放在主存，也可以存放在通用寄存器中，这样就有了主主存存空空间间的的数数相相关关和通通用用寄寄存存器器组的数相关组的数相关。第3页/共24页2.主存空间数相关的处理主存空间数相关的处理如图5.6所示，主存空间数相关是相邻两条指令之间出现对主存同一单元要求先写而后读的关联。要想不出错，只有推后分析k+1的读。推推后后读读常常见见的的方方法法是是由由存存控控给给读读数数、写写数数申申请请安安排排不不同同的的访访存存优优先先级级来来解解决决。当第k和第k

5、+1出现主存数相关时，存控先处理执行k的写数，而将分析k+1的读申请推迟到下一个主存周期才能处理，自动实现推后分析k+1。3.通用寄存器组相关的处理通用寄存器组相关的处理通用寄存器可以存放操作数、运算结果、基址值或变址值，在指令解释过程中，使用通用寄存器作不同用途所需微操作的时间不同。如图图5.7P1295.7P129所所示示，存存放放基基址址或或变变址址值值一一般般在在“分分析析”周周期期的的前前半半段段取取用用；操操作作数数是是在在“分分析析”周周期期的的后后半半段段取取出出，到到“执执行行”周周期期的的前前半半段段采采用用；运运算算结结果果是是在在“执执行行”周周期期末末尾尾形形成成并并

6、存存入入通通用用寄存器中寄存器中。第4页/共24页要解决通用寄存器组数相关，一种办法是可以推后分推后分析析k+1k+1的读到执行的读到执行k k结束时开始，也可推后到执行结束时开始，也可推后到执行k k把结果送把结果送入入L L3 3。该方法降低了速度，当不增加设备另一种方法就是如图5.9P130所示设置相关专用通路设置相关专用通路。该方法增加了设备，当重叠效率并不下降。特别的，当通通用用寄寄存存器器组组基基址址值值或或变变址址值值相相关关(如图5.10P131)时，也可可以以采采用用推推后后分分析析(如图5.11P131)和设设置相关专用通路置相关专用通路(如图5.12P131)的方法。综上

7、所述，为为实实现现两两条条指指令令在在时时间间上上重重叠叠解解释释，首先需需要要付付出出空空间间代代价价，如增设数据总线、控制总线、指令缓冲器、地址加法器、相关专业通路，将指令分析部件和指令执行部件功能分开、单独设置，主存采用多体交叉存取等。其次，要要处处理理好好指指令令之之间间可可能能存存在在的的关关联联。此外，还应该合合理理调调配配好好机机器器指指令令的的微微操操作作，使分析和执行的时间尽可能相等，以提高重叠的效率。第5页/共24页5.2 流水方式5.2.1 基本概念5.2.2 流水线处理机的主要性能5.2.3 流水机器的相关处理和控制机构第6页/共24页5.2.1 基本概念1.流水是重叠

8、的引申如图5.14P132所示，流水是重叠的引申流水是重叠的引申。显然，如能把一条指令的解释分解成时间相等的m个子过程，则每隔t=T/m就可以处理一条指令。因此，流流水水的的最最大大吞吞吐吐率率取取决决于于子子过过程程的的经经过过时时间间t t，t越小，流水线的最大吞吐率就越高。流流水水的的最最大大吞吞吐吐率率是是指指流流水水线线满满负负荷荷每每隔隔t t流流出出一一个个结结果果时时多多达达到到的的吞吞吐吐率率。实际上，流水线从开始启动到流出第一个结果，需要经过一段流水线的建立时间T0，在这段时间里流水线并未流出任何结果。所以实际吞吐率总是低于其最大吞吐率。在实际流水线中，由于各子部件经过的时

9、间不同，为为平平滑滑这这些些子子过过程程的的速速度度差差，一一般般在在它它们们之之间间设设有有锁锁存存器器。所所有有锁锁存存器器都都受受同同一一时时钟钟信信号号控控制制来来实实现现各各子子部部件件信信息息流流的的同同步步推推进进。时时钟钟信信号号周周期期不不得得低低于于速速度度最最慢慢子子部部件件的的经经过过时时间间与与锁锁存存器器的的存取时间之和，还要考虑时钟信号到各锁存器可能存在时延差存取时间之和，还要考虑时钟信号到各锁存器可能存在时延差第7页/共24页2.分类分类流水线依据向下和向上扩展的思路，可分类出在计算机系统不同等级上使用的流水线。向下扩展向下扩展指的是把子过程进一步细分，让每个子

10、过程经过的时间都同等程度减少，吞吐率就会进一步提高。向上扩展向上扩展可理解为在多个处理机之间流水；流水线按照处理级别可分为部件级部件级(部件内各子部件间的流水)、处理机级处理机级(构成处理机的各部件之间的流水)和系统级系统级(构成计算机系统的多处理机之间的流水)；从流水线具有功能的多少来看，可以分为单功能流水线单功能流水线(只能实现单一功能的流水)和多功能流水线多功能流水线(同一流水线的各个段之间可以有多种不同的联接方式以实现多种不同的功能或功能)；按多功能流水线的各段能否允许同时用于多种不同功能联接流水，可把流水线分成静态流水线静态流水线(同一时间内各段只能按一种功能联接流水)和动态流水线动

11、态流水线(同一时间内可按不同运算或功能联接)；以机器所具有的数据表示可把流水线处理机分为标量流水机标量流水机(没有向量数据表示，只能以标量循环方式处理向量和数据)和向量向量流水机流水机；从流水线中各功能段之间是否有反馈回路，分为线线性流水性流水和非线性流水非线性流水。第8页/共24页5.2.2 流水线处理机的主要性能1.吞吐率吞吐率吞吐率吞吐率是流水线单位时间里能流出的任务数或结果数一般，如果各子过程所需的时间不同时，取最大的时间作为时钟周期，这样，流水的最大吞吐率就等于1/最大子过程时间。可见流水线最大吞吐率受限于流水线中最慢子过程经过的时间。流水线中经过时间最长的子过程称为瓶颈子过程瓶颈子

12、过程。为提高流水线的最大吞吐率，需找到并消除瓶颈。消除瓶颈的一种一种方法方法是如图5.20P137将瓶颈子过程再细分将瓶颈子过程再细分。另一种是如图5.21P137通过重复设置多套瓶颈段并联重复设置多套瓶颈段并联，让它们交叉并行。设一m段流水线的各段经过时间均为t0，则完成n个任务后流水线的实际吞吐率TP=n/(mt0+(n-1)t0)=1/t0(1+(m-1)/n)=TPmax/(1+(m-1)/n)可见，实际吞吐率总是小于最大吞吐率实际吞吐率总是小于最大吞吐率。只有当只有当nmnm时，时，才能使实际吞吐率接近于最大吞吐率才能使实际吞吐率接近于最大吞吐率。第9页/共24页加速比SP表示流水方

13、式相对于非流水顺序方式速度提高的比值，SP=nmt0/(mt0+(n-1)t0)=m/(1+(m-1)/n)所以，线性流水线各段时间相等时，仅当线性流水线各段时间相等时，仅当nmnm时，连续流时，连续流入的任务数入的任务数n n远多于流水线子过程数远多于流水线子过程数m m时，其加速比才能趋于最时，其加速比才能趋于最大值，即为流水线的段数大值，即为流水线的段数m m。这样一来，就可以通过让子过程细分增大m的方法来提高加速比。但是，如果增大m缩短t0，却未能再软件、算法、语言编译、程序设计上保证连续流动的任务数n能远大于子过程数m，则实际吞吐率将大大低于最大吞吐率。极限情况下，当n=1时，由于m

14、增大。锁存器个数增多，实际增大了任务在流水线上的通过时间，反而使其速度会比顺序串行的还要低。如果线性流水线每段经过的时间线性流水线每段经过的时间ti不等不等，其中瓶颈段的时间是tj，则完成n个任务的实际吞吐率实际吞吐率TP=n/(ti+(n-1)tj)其加速比加速比SP=nti/(ti+(n-1)tj)第10页/共24页2.效率效率流水线的效率流水线的效率是指流水线中设备的实际使用时间占整个运行时间之比，也称为流水线设备的时间利用率。如果是线性流水线且各段经过的时间相同线性流水线且各段经过的时间相同，如图5.22P138所示，则在n个任务执行的整个时间T中，流水线各段的效率流水线各段的效率都相

15、同都相同，均为0，即1=2=m=nt0/T=n/(m+(n-1)=0整个流水线的效率整个流水线的效率=(1+2+m)/m=0=mnt0/mT式中，分母mT是时空图中m个段和流水线总时间T所围成的面积，分子mnt0是时空图中n个任务实际使用的面积。因此，从时空图的角度看，效率实际上就是从时空图的角度看，效率实际上就是n n个任务占用的时空区面个任务占用的时空区面积和积和m m个段总的时空区面积之比个段总的时空区面积之比。显然，只有当nm时，才趋于1。同时还可以看出线性流水线每段时间相等时线性流水线每段时间相等时，流水线流水线的效率正比于吞吐率的效率正比于吞吐率，即=nt0/T=n/(m+(n-1

16、)=TPt0尽管，在非线性流水线或线性流水线各段时间不等时，这种正比关系并不存在。但是，为提高效率减少时空图中空白为提高效率减少时空图中空白区域所采取的措施也会为提高吞吐率带来好处区域所采取的措施也会为提高吞吐率带来好处。第11页/共24页如果流水线各段经过时间不等流水线各段经过时间不等，各段的效率就会不等，整个流水线的效率整个流水线的效率=n个任务实际占用的时空区/m个段总的时空区 =nti/m(ti+(n-1)tj)3.流水线工作举例流水线工作举例(略)第12页/共24页5.2.3 流水机器的相关处理和控制机构流水线只有连续不断流动，不出现断流，才能提高效率。造成流水线断流的原因除了编译形

17、成的目的程造成流水线断流的原因除了编译形成的目的程序不能发挥流水结构的作用，或存储系统供不上连续序不能发挥流水结构的作用，或存储系统供不上连续流动所需的指令和操作数以外，还由于出现了相关和流动所需的指令和操作数以外，还由于出现了相关和中断中断。流水机环境下，转移指令和其后的指令之间存在关联，使之不能同时解释，其造成的对流水机器的吞吐率和效率下降的影响要比指令相关、主存操作数相关和通用寄存器组相关及基址值或变址值相关严重得多，所以称为全局性相关全局性相关。而后者只影响相关得两条或几条指令，最多影响流水线某些段工作的推后，不会改变指缓中预取得指令，影响是局部得，故称为局部性局部性相关相关。第13页

18、/共24页1.局部性相关的处理局部性相关的处理包括指令相关、访存操作数相关和通用寄存器组相关等局部性相关都是由于在机器同时解释的多条指令之间出现了对同一主存单元或寄存器要求先写后读。重叠机器处理局部性相关采用推后读和设置相关直接通路推后读和设置相关直接通路的方法，这两种方法同同样适用于流水机器样适用于流水机器。而其中，因为流水机器同时解释多条指令，如果在各功能部件之间为每个局部性相关都设置单独的在各功能部件之间为每个局部性相关都设置单独的相关直接通路，将会耗费大量的硬件资源相关直接通路，将会耗费大量的硬件资源，而且控制复杂，因此，一般会设置公共数据总线一般会设置公共数据总线，采用采用如图5.2

19、5P143所示的分布式控制和管理分布式控制和管理方法进行处理。任务在流水线中流动顺序的安排和控制可以有两种方式。一种是让任务流出流水线的顺序保持与流入流水线的顺序一致，称为顺序流动方式或称同步流动方式同步流动方式；另一种是让流出流水线的任务顺序和流入流水线的顺序不同，称为异步流动异步流动方式方式。一般，同步流动方式控制比较简单，但流水线的吞吐率和效率都要下降；而异步流动方式异步流动方式尽管控制复杂，流水线的吞吐率和效率则均未下降，但是可能会出现顺序流动不会可能会出现顺序流动不会发生的写发生的写-写相关和先读后写相关等问题写相关和先读后写相关等问题。第14页/共24页2.全局相关的处理全局相关的

20、处理1)猜测法猜测法若指令i是条件转移指令，有两个分支。一个是按原来顺序执行的i+1、i+2、的转移不成功分支；另一个是转向p、p+1、的转移成功分支。当指令i进入流水线时，只有等到条件码建立才能确认如何进行转移，这必将让i之后的指令停等，流水线就会断流，性能急剧下降。为此，可采用猜测法猜取两个分支之一继续向前流动猜取两个分支之一继续向前流动。在猜测时，如果两个分支概率相近，宜选如果两个分支概率相近，宜选i+1i+1不成功转移不成功转移分支分支，因为它已经预取进缓指，可以很快从中取出进入流水线而不用等待。而当两个分支概率不均等时，宜猜高概率分当两个分支概率不均等时，宜猜高概率分支支。转移概率转

21、移概率可以静态静态根据转移指令类型或程序执行期间转移的历史状况来预测预测，但需要事先对大量程序的转移类型和转移概率进行统计，且统计出的概率也不一定能保证较高的猜测准确度。如果采用动态策略动态策略，由编译程序根据执行过程中转移的历史纪录来动态预测未来的转移选择，可使预测准确度提高到90%。第15页/共24页采用猜测法还应能保证猜错时可恢复分支点处原先的现场采用猜测法还应能保证猜错时可恢复分支点处原先的现场。一般有三种方法：一种方法一种方法是在执行猜测分支时对指令只译码和准备好操作数，在转移条件码出现之前不进行运算；另另一种方法一种方法是运算但不送回结果；第三种方法第三种方法是采用后援寄存器保存可

22、能被破坏的原始状态，一旦猜错，就取出后援寄存器的内容来恢复分支点的现场。此外，为了让猜错后能尽快回到原分支处转入另一个分支，在沿猜测路径向前流动的同时沿猜测路径向前流动的同时，还可以由存储器预取转移成预取转移成功分支的头几条指令放在转移目标指令缓冲器功分支的头几条指令放在转移目标指令缓冲器中，以便在猜错时不必从访存取p开始；有些机器的指令流水线除了除了设置正正常指令缓冲器常指令缓冲器外，还设置了两套转移目标指令缓冲器两套转移目标指令缓冲器。2)加快和提前形成条件码加快和提前形成条件码一方面加快单条指令内部条件码的形成加快单条指令内部条件码的形成，不等指令执行完成就提前形成反映运算结果的条件码；

23、另一方面是在一段循在一段循环型程序内提前形成条件码环型程序内提前形成条件码3)采取延迟转移采取延迟转移将转移指令与其前面不相关一条或多条指令交换位置将转移指令与其前面不相关一条或多条指令交换位置第16页/共24页4)加快短循环程序的处理加快短循环程序的处理一是可以将长度小于指缓容量的短循环程序整个一次性放将长度小于指缓容量的短循环程序整个一次性放入指缓内，并暂停预取指令入指缓内，并暂停预取指令，避免执行循环时由于指令预取导致指缓中需循环执行的指令被冲掉，减少访主存重复取指的次数；二是由于循环分支概率高，可以让循环出口端的条让循环出口端的条件转移指令恒猜循环分支件转移指令恒猜循环分支，减少因条件

24、分支造成流水线断流的机会。3.流水机器的中断处理中断处理中断会引起流水线断流，但出现的概率比条件转移的概率低得多，且又是随机发生，故流水机器处理中断主要是如何流水机器处理中断主要是如何处理好断点现场的保存和恢复，而不是如何缩短流水线的断处理好断点现场的保存和恢复，而不是如何缩短流水线的断流时间流时间。早期采用不精确断点法早期采用不精确断点法。即不论指令i在流水线的那一段发生中断，未进入流水线的后续指令不再进入，已在流水线的指令仍继续流完，然后再转入中断处理程序执行。这样断点就不一定是i，即断点不精确。后期采用精确断点法后期采用精确断点法。即不论指令i是在流水线的那一段响应中断，给中断处理程序的

25、现场全都对应i，i之后流入流水线的指令的原有现场都能恢复第17页/共24页4.流水线调度流水线调度由于线性流水线在执行每个任务的过程中，每段均只通过一次，故每拍都可以将一个新的任务送入流水线，这些任务不会争用同一个流水段。而在非线性流水线中，因段间有反馈回路，一个任务在流水的全过程中，可能会多次通过同一段或越过某些段，这样就有可能会出现多个任务争用同一功能段的使用冲突现象。要想不发生冲突就得间隔适当的节拍数之后再向流水线送入下一个任务。究竟间隔几拍送入下一究竟间隔几拍送入下一个任务才既不发生功能段使用冲突，又能使流水线有较高的个任务才既不发生功能段使用冲突，又能使流水线有较高的吞吐率和效率，使

26、流水线调度要解决的问题吞吐率和效率，使流水线调度要解决的问题。为了对流水线任务进行优化调度和控制，提出了使用一个使用一个二维预约表的方法二维预约表的方法。该方法分为以下几个步骤：构成延迟禁止表构成延迟禁止表得到初始冲突变量得到初始冲突变量画出流水线状态转移图画出流水线状态转移图计算每种调度方案的平均间隔拍数，找出最小的一种间计算每种调度方案的平均间隔拍数，找出最小的一种间隔拍数呈周期性重复的方案隔拍数呈周期性重复的方案第18页/共24页5.3 向量的流水处理与向量流水处理机5.3.1 向量的流水处理5.3.2 向量流水处理机第19页/共24页5.3.1 向量的流水处理由于向量内部各元素很少相关

27、，且一般又是执行同一种操作，易于发挥出流水线的功效，所以可将向量数据表示和流水线结合构成向量流出处理机向量流出处理机。向量的流水处理与所采用的计算机结构有关。不同的不同的向量处理方式会对流水处理机的结构、组成提出不同的要向量处理方式会对流水处理机的结构、组成提出不同的要求，而结构和组成不同的向量处理反过来也会要求采用不求，而结构和组成不同的向量处理反过来也会要求采用不同的向量流水处理方式同的向量流水处理方式。向量的处理方式有横向处理方式和纵向处理方式两种。横向处理方式横向处理方式每次从向量中逐次取出分量，完成所有运算，得到结果向量的相应分量；而纵向处理方式纵向处理方式则按照运算的先后次序，逐个

28、向量进行运算。如果向量的长度向量的长度N N超出了向量寄存器组中寄存器的个数超出了向量寄存器组中寄存器的个数，可以将该向量分割成若干组将该向量分割成若干组，使每组都能装得进向量寄存器组中第20页/共24页5.4 指令级高度并行的超级处理机5.4.1 超标量处理机5.4.2 超长指令字处理机5.4.3 超流水线处理机第21页/共24页5.4.1 超标量处理机常规的标量处理机在每个t期间解释完一条指令，而超标量处理机则采用多指令流水线，每个同时流出超标量处理机则采用多指令流水线，每个同时流出m m条指令条指令(称为度称为度m)m)。一般，在超标量流水线处理机中，会配置多套功能配置多套功能部件、指令

29、译码电路和多组总线，寄存器也备有多个部件、指令译码电路和多组总线，寄存器也备有多个端口和多组总线端口和多组总线。超标量流水线处理机非常适合于求解稀释矩阵这类标量计算问题。第22页/共24页5.4.2 超长指令字处理机超长指令字结构是将水平型微码和超标量处理两者将水平型微码和超标量处理两者结合结合。与超标量处理机不同，在编译时，编译程序找编译时，编译程序找出指令间潜在的并行性，将多个能并行执行的不相关出指令间潜在的并行性，将多个能并行执行的不相关或无关的操作先行压缩组合在一起，形成一条有多个或无关的操作先行压缩组合在一起，形成一条有多个操作段的超长指令操作段的超长指令。运行时不再用软件或硬件检测其并行性，直接由这条超长字指令控制机器中多个相互独立的功能部件并行操作。每个操作段控制其中的一个功能部件，相当于同时在执行多条指令。硬件结构和指令系统简单，是一种不同于SIMD的单指令多操作码多数据的系统结构。第23页/共24页感谢您的观看！第24页/共24页