《内部存储器》PPT课件.ppt

第三章第三章 内部存储器内部存储器存储器概述存储器存储器只读存储器和闪速存储器3.5并行存储器3.6Cache存储器返回1存储器概述存储器概述一、分类l按存储介质分类：磁表面/半导体存储器l按存取方式分类：随机/顺序存储器（磁带）l按读写功能分类：只读存储器ROM 随机读写存储器RAMl按信息的可保存性分类：易失性存储器 非易失性存储器l按存储器系统中的作用分类：主存/辅存/缓存/控制存储器2存储器概述存储器概述二、存储器分级结构1、目前存储器的特点是：速度快的存储器价格贵，容量小；价格低的存储器速度慢，容量大。在计算机存储器体系结构设计时，我们希望存储器系统的性能高、价格低，那么在存储器系统设计时，应当在存储器容量，速度和价格方面的因素作折中考虑，建立了分层次的存储器体系结构如下图所示。33.1.2 存储器分级结构存储器分级结构2、分级结构l高速缓冲存储器简称cache，它是计算机系统中的一个高速小容量半导体存储器。l主存储器简称主存，是计算机系统的主要存储器，用来存放计算机运行期间的大量程序和数据。l外存储器简称外存，它是大容量辅助存储器。43.1.2 存储器分级结构存储器分级结构l分层存储器系统之间的连接关系53主存储器的技术指标主存储器的技术指标l字存储单元：存放一个机器字的存储单元，相应的单元地址叫字地址。l字节存储单元：存放一个字节的单元，相应的地址称为字节地址。l存储容量：指一个存储器中可以容纳的存储单元总数。存储容量越大，能存储的信息就越多。l存取时间又称存储器访问时间：指一次读操作命令发出到该操作完成，将数据读出到数据总线上所经历的时间。通常取写操作时间等于读操作时间，故称为存储器存取时间。l存储周期：指连续启动两次读操作所需间隔的最小时间。通常，存储周期略大于存取时间，其时间单位为ns。l存储器带宽：单位时间里存储器所存取的信息量，通常以位/秒或字节/秒做度量单位。63.2 SRAM存储器存储器l主存（内部存储器）是半导体存储器。根据信息存储的机理不同可以分为两类：l静态读写存储器(SRAM)：存取速度快，但存储容量不如DRAM大。l动态读写存储器(DRAM)：73.2 SRAM存储器存储器一、基本的静态存储元阵列1、存储位元2、三组信号线l地址线l数据线l行线(64条)l列线l控制线SRAM特征：用一个锁存器作为存储元。只要锁存器一直通特征：用一个锁存器作为存储元。只要锁存器一直通电，它就无限期保持记忆电，它就无限期保持记忆1或或0。断电时，数据丢失。断电时，数据丢失。6条地址线，存储容量为条地址线，存储容量为26=64个存储单元；个存储单元；4条数据线，存储器的字长条数据线，存储器的字长为为4位；则存储位元的总数位；则存储位元的总数=644=256。83.2 SRAM存储器存储器二、基本的SRAM逻辑结构lSRAM芯片大多采用双译码方式，以便组织更大的存储容量。采用了二级译码：将地址分成x向、y向两部分。l第一级进行x方向（行译码）和y方向（列译码）的独立译码；l然后在存储阵列中完成第二级的交叉译码。93.2 SRAM存储器存储器32k8位SRAM结构图共共15条地址线，条地址线，x方向方向8条，行译条，行译码后输出码后输出256行。行。y方向方向7条，列译码后输出条，列译码后输出128列。列。存储阵列为三维结构，共存储阵列为三维结构，共256行行128列列8位（数据线有位（数据线有8条，字条，字长为长为8位）。位）。用于读与用于读与写的互锁写的互锁逻辑逻辑103.2 SRAM存储器存储器l存储体（2561288）l通常把各个字的同一个字的同一位集成在一个芯片（32K1=322101=3210241=2561281）中，32K位排成256128的矩阵。8个片子就可以构成32KB。l地址译码器l采用双译码的方式（减少选择线的数目）。lA0A7为行地址译码线lA8A14为列地址译码线113.2 SRAM存储器存储器l读与写的互锁逻辑控制信号中：CS是片选信号，CS有效时（低电平），门G1、G2均被打开。OE为读出使能信号，OE有效时（低电平），门G2开启。读操作时，写命令WE=1（高电平），门G1关闭。写操作时，WE=0，门G1开启，门G2关闭。注意，门G1和G2是互锁的，一个开启时另一个必定关闭，这样保证了读时不写，写时不读。与非门与非门与非门与非门123.2 SRAM存储器存储器三、存储器的读写周期l读周期l读出时间tAQl读周期时间tRCl写周期l写周期时间tWCl写时间tWDl存取周期l读周期时间tRC=写周期时间tWC地址位先有效地址位先有效133.3 DRAM存储器存储器一、DRAM存储位元的记忆原理 SRAM存储器的存储位元是一个触发器（又叫锁存器），它具有两个稳定的状态。DRAM存储器的存储位元是由一个MOS晶体管和电容器组成的记忆电路，如图所示。143.3 DRAM存储器存储器1、MOS管做为开关使用，而所存储的信息1或0则是由电容器上的电荷量来体现当电容器充满电荷时，代表存储了1，当电容器放电没有电荷时，代表存储了0。2、图(a)表示写1到存储位元。此时输出缓冲器关闭、刷新缓冲器关闭，输入缓冲器打开（R/W为低），输入数据DIN=1送到存储元位线上，而行选线为高，打开MOS管，于是位线上的高电平给电容器充电，表示存储了1。3、图(b)表示写0到存储位元。此时输出缓冲器和刷新缓冲器关闭，输入缓冲器打开，输入数据DIN=0送到存储元位线上；行选线为高，打开MOS管，于是电容上的电荷通过MOS管和位线放电，表示存储了0。4、图(c)表示从存储位元读出1。输入缓冲器和刷新缓冲器关闭，输出缓冲器/读放打开（R/W为高）。行选线为高，打开MOS管，电容上所存储的1送到位线上，通过输出缓冲器/读出放大器发送到DOUT,即DOUT=1。5、图(d)表示(c)读出1后存储位元重写1。由于(c)中读出1是破坏性读出，必须恢复存储位元中原存的1。此时输入缓冲器关闭，刷新缓冲器打开，输出缓冲器/读放打开，DOUT=1经刷新缓冲器送到位线上，再经MOS管写到电容上。注意，输入缓冲器与输出缓冲器总是互锁的。这是因为读操作和写操作是互斥的，不会同时发生。MOS管管电容电容关关关关开开关关关关开开关关关关开开开开开开关关DRAM存储位元，存储位元，为一记忆电路为一记忆电路四种情况中行选四种情况中行选线总是高电平，线总是高电平，为的是打开为的是打开MOS管，管，MOS管作为管作为存储位元的开关存储位元的开关形成通路，给电形成通路，给电容充电或放电。容充电或放电。153.3 DRAM存储器存储器二、DRAM芯片的逻辑结构l图3.7(a)示出1M4位DRAM芯片的管脚图，其中有两个电源脚、两个地线脚，为了对称，还有一个空脚（NC）。l图3.7(b)是该芯片的逻辑结构图。与SRAM不同的是：（1）增加了行地址锁存器和列地址锁存器。为避免芯片地址线管脚数目增多，采取的办法是分时传送地址码。若地址总线宽度为10位，先传送地址码A0A9，由行选通信号RAS打入到行地址锁存器；然后传送地址码A10A19，由列选通信号CRS打入到列地址锁存器。芯片内部两部分合起来，地址线宽度达20位，存储容量为1M4位。（2）增加了刷新计数器和相应的控制电路。刷新操作与读/写操作是交替进行的，所以通过2选1多路开关来提供刷新行地址或正常读/写的行地址。163.3 DRAM存储器存储器173.3 DRAM存储器存储器三、读/写周期l读周期、写周期的定义是从行选通信号RAS下降沿开始，到下一个 RAS信号的下降沿为止的时间，也就是连续两个读周期的时间间隔连续两个读周期的时间间隔。通常为控制方便，读周期和写周期时间相等。183.3 DRAM存储器存储器193.3 DRAM存储器存储器四、刷新周期 l原因：DRAM存储位元是基于电容器上的电荷量存储，这个电荷量随着时间和温度而减少，因此必须定期地刷新，以保持它们原来记忆的正确信息。l刷新操作有两种刷新方式：l l集中式刷新:DRAM的所有行在每一个刷新周期中都被刷新。l l分散式刷新:每一行的刷新插入到正常的读/写周期之中。203.3 DRAM存储器存储器五、存储器容量的扩充 1、字长位数扩展给定的芯片字长位数较短，不满足设计要求的存储器字长，此时需要用多片给定芯片扩展字长位数。三组信号线中，地址线和控制线公用而数据线单独分开连接。d=设计要求的存储器容量/选择芯片存储器容量 例例2 2 利用利用1M41M4位的位的SRAMSRAM芯片，设计一个存储容芯片，设计一个存储容量为量为1M81M8位的位的SRAMSRAM存储器。存储器。解：所需芯片数量=(1M8)/(1M4)=2片 设计的存储器见书上p74图所示。连接的三组信号线与例相似，即地址线、控制线公用，数据线分高4位、低4位，但数据线是双向的，与SRAM芯片的I/O端相连接。原字长为原字长为4位，设计的字长为位，设计的字长为8位，因此需要扩展为位，因此需要扩展为8条数据线条数据线213.3 DRAM存储器存储器2、字存储容量扩展 l给定的芯片存储容量较小（字数少），不满足设计要求的总存储容量，此时需要用多片给定芯片来扩展字数。三组信号组中给定芯片的地址总线和数据总线公用，控制总线中R/W公用，使能端EN不能公用，它由地址总线的高位段译码来决定片选信号。所需芯片数仍由（d=设计要求的存储器容量/选择芯片存储器容量）决定。例例33利用利用1M81M8位的位的DRAMDRAM芯片设计芯片设计2M82M8位的位的DRAMDRAM存存储器储器解：所需芯片数d=（2M8）/（1M8）=2(片)设计的存储器见书上图所示。字长位数不变，地址总线A0A19同时连接到2片DRAM的地址输入端，地址总线最高位有A20、A20，分别作为两片DRAM的片选信号，两个芯片不会同时工作。作业：作业：p101 1，22M8位位=22208位位=2218位位所以地址线要扩充为所以地址线要扩充为21根根223.3 DRAM存储器存储器3、存储器模块条 l存储器通常以插槽用模块条形式供应市场。这种模块条常称为内存条，它们是在一个条状形的小印制电路板上，用一定数量的存储器芯片，组成一个存储容量固定的存储模块。如图所示。l内存条有30脚、72脚、100脚、144脚、168脚等多种形式。l30脚内存条设计成8位数据线，存储容量从256KB32MB。l72脚内存条设计成32位数据总线l100脚以上内存条既用于32位数据总线又用于64位数据总线，存储容量从4MB512MB。233.3 DRAM存储器存储器六、高级的DRAM结构（自学）lFPM DRAM：快速页模式动态存储器，它是根据程序的局部性原理来实现的。读周期和写周期中，为了寻找一个确定的存储单元地址，首先由低电平的行选通信号RAS确定行地址，然后由低电平的列选信号CAS确定列地址。下一次寻找操作，也是由RAS选定行地址，CAS选定列地址，依此类推，如下图所示。243.3 DRAM存储器存储器七、DRAM主存读/写的正确性校验（自学）DRAM通常用做主存储器，其读写操作的正确性与可靠性至关重要。为此除了正常的数据位宽度，还增加了附加位，用于读/写操作正确性校验。增加的附加位也要同数据位一起写入DRAM中保存。其原理如图所示。253.4 只读存储器和闪速存储器只读存储器和闪速存储器一、只读存储器 ROM叫做只读存储器。顾名思义，只读的意思是在它工作时只能读出，不能写入。然而其中存储的原始数据，必须在它工作以前写入。只读存储器由于工作可靠，保密性强，在计算机系统中得到广泛的应用。主要有两类：l掩模ROM：掩模ROM实际上是一个存储内容固定的ROM，由生产厂家提供产品。l可编程ROM：用户后写入内容，有些可以多次写入。l一次性编程的PROMl多次编程的EPROM和E2PROM。263.4 只读存储器和闪速存储器只读存储器和闪速存储器1、掩模ROM的阵列结构和存储元 单译码结构单译码结构因此，地址输入因此，地址输入线有线有4条，对应条，对应16条行选线条行选线（16个字）。个字）。每个字长为每个字长为8位位，对应有，对应有8条列条列选线（数据线）选线（数据线）行选线和行选线和MOS管连管连接时，接时，MOS导通，导通，列线上为高电平，列线上为高电平，表示存储表示存储1。MOS管存储元管存储元行选线和行选线和MOS管不管不连接时，连接时，MOS管截管截止，表示存储止，表示存储0。273.4 只读存储器和闪速存储器只读存储器和闪速存储器2、掩模ROM的逻辑符号和内部逻辑框图 8条地址线，共条地址线，共28=256个字，个字，4条数据线，字长为条数据线，字长为4bit。283.4 只读存储器和闪速存储器只读存储器和闪速存储器3、可编程ROM(有PROM、EPROM和E2PROM)（1）EPROMlEPROM叫做光擦除可编程可读存储器。它的存储内容可以根据需要写入，当需要更新时将原存储内容抹去，再写入新的内容。29（1）EPROMl现以浮栅雪崩注入型MOS管为存储元的EPROM为例进行说明，结构如图(a)所示，图(b)是电路符号。l若在漏极D端加上约几十伏的脉冲电压，使得沟道中的电场足够强，则会造成雪崩，产生很多高能量电子。此时，若在G2栅上加上正电压，形成方向与沟道垂直的电场，便可使沟道中的电子穿过氧化层而注入到G1栅，从而使G1栅积累负电荷。l由于G1栅周围都是绝缘的二氧化硅层，泄漏电流极小，所以一旦电子注入到G1栅后，就能长期保存。两个漏极两个漏极S,D两个栅极两个栅极G1,G230（1）EPROMl当G1栅有电子积累时，该MOS管的开启电压变得很高，即使G2栅为高电平，该管仍不能导通，相当于存储了“0”。反之，G1栅无电子积累时，MOS管的开启电压较低，当G2栅为高电平时，该管可以导通，相当于存储了“1”。31（1）EPROMl这种器件的上方有一个石英窗口，如图(c)所示。当用光子能量较高的紫外光照射G1浮栅时，G1中电子获得足够能量，从而穿过氧化层回到衬底中，如图(e)所示。这样可使浮栅上的电子消失，达到抹去存储信息的目的，相当于存储器又存了全“1”。l这种存储器在出厂时，存储内容为全“1”状态。使用时，可根据要求把某些存储元写“0”。EPROM允许多次重写。抹去时，用40W紫外灯，相距2cm，照射几分钟即可。32（2）E2PROMlE2PROM存储元 又写作EEPROM，叫做电擦除可编程只读存储器。其存储元是一个具有两个栅极的NMOS管，如图(a)和(b)所示，G1是控制栅，它是一个浮栅，无引出线；G2是抹去栅，它有引出线。在G1栅和漏极D之间有一小面积的氧化层，其厚度极薄，可产生隧道效应。如图(c)所示，当G2栅加20V正脉冲P1时，通过隧道效应，电子由衬底注入到G1浮栅，相当于存储了“1”。利用此方法可将存储器抹成全“1”状态。33（2）E2PROMl这种存储器在出厂时，存储内容为全“1”状态。使用时，可根据要求把某些存储元写“0”。写“0”电路如图(d)所示。漏极D加20V正脉冲P2,G2栅接地，浮栅上电子通过隧道返回衬底，相当于写“0”。E2PROM允许改写上千次，改写（先抹后写）大约需20ms，数据可存储20年以上。lE2PROM读出时的电路如图(e)所示，这时G2栅加3V电压，若G1栅有电子积累，T2管不能导通，相当于存“1”；若G1栅无电子积累，T2管导通，相当于存“0”。344、闪速存储器、闪速存储器FLASH存储器也翻译成闪速存储器，它是高密度非失易失性的读/写存储器。高密度意味着它具有巨大比特数目的存储容量。非易失性意味着存放的数据在没有电源的情况下可以长期保存。总之，它既有RAM的优点，又有ROM的优点，称得上是存储技术划时代的进展。354、闪速存储器、闪速存储器lFLASH存储元在EPROM存储元基础上发展起来的，由此可以看出创新与继承的关系。l如右图所示为闪速存储器中的存储元，由单个MOS晶体管组成，除漏极D和源极S外，还有一个控制栅和浮空栅。364、闪速存储器、闪速存储器l“0”状态状态：当控制栅加上足够的正电压时，浮空栅将储存许多电子带负电，这意味着浮空栅上有很多负电荷，这种情况我们定义存储元处于0状态。l“1”状态状态：如果控制栅不加正电压，浮空栅则只有少许电子或不带电荷，这种情况我们定义为存储元处于1状态。l浮空栅上的电荷量决定了读取操作时，加在栅极上的控制电压能否开启MOS管，并产生从漏极D到源极S的电流。374、闪速存储器、闪速存储器l2、FLASH存储器的基本操作存储器的基本操作编程操作、读取操作、擦除操作编程操作、读取操作、擦除操作 l编程操作编程操作：实际上是写操作。所有存储元的原始状态均处“1”状态。l如图(a)表示编程操作时存储元写0、写1的情况。实际上编程时只写0，不写1，因为存储元擦除后原始状态全为1。要写0，就是要在控制栅C上加正电压。一旦存储元被编程，存储的数据可保持100年之久而无需外电源。384、闪速存储器、闪速存储器l读取操作：读取操作：当MOS晶体管开启导通时，电源VD提供从漏极D到源极S的电流。读出电路检测到有电流，表示存储元中存1，若读出电路检测到无电流，表示存储元中存0，如图(b)所示。394、闪速存储器、闪速存储器l擦除操作擦除操作：所有的存储元中浮空栅上的负电荷要全部洩（同泄）放出去。为此晶体管源极S加上正电压，这与编程操作正好相反，见图(c)所示。源极S上的正电压吸收浮空栅中的电子，从而使全部存储元变成1状态。404、闪速存储器、闪速存储器lFLASH存储器的阵列结构l在某一时间只有一条行选择线被激活。读操作时，假定某个存储元原存1，那么晶体管导通，与它所在位线接通，有电流通过位线，所经过的负载上产生一个电压降。这个电压降送到比较器的一个输入端，与另一端输入的参照电压做比较，比较器输出一个标志为逻辑1的电平。如果某个存储元原先存0，那么晶体管不导通，位线上没有电流，比较器输出端则产生一个标志为逻辑0的电平。l典型的FLASH存储器应用是优盘。413.5 并行存储器并行存储器由于CPU和主存储器之间在速度上是不匹配的，这种情况便成为限制高速计算机设计的主要问题。为了提高CPU和主存之间的数据传输率，除了主存采用更高速的技术来缩短读出时间外，还可以采用并行技术的存储器。423.5 并行存储器并行存储器l解决途径l多个存储器并行工作l并行访问和交叉访问l设置各种缓冲器l通用寄存器l采用分层的存储系统lCache（第6节）l虚拟存储系统（第9章）433.5 并行存储器并行存储器一、双端口存储器 1、双端口存储器的逻辑结构 双端口存储器由于同一个存储器具有两组相互独立的读写控制电路而得名。由于进行并行的独立操作，因而是一种高速工作的存储器，在科研和工程中非常有用。举例说明，双端口存储器IDT7133的逻辑框图。如下页图。443双端口存储器双端口存储器左端口左端口右端口右端口此为此为SRAM，左、右端口独立，有各自的地址线，数据，左、右端口独立，有各自的地址线，数据线和控制线。线和控制线。453双端口存储器双端口存储器2、无冲突读写控制 当两个端口的地址不相同时，在两个端口上进行读写操作，一定不会发生冲突。当任一端口被选中驱动时，就可对整个存储器进行存取，每一个端口都有自己的片选控制(CE)和输出驱动控制(OE)。读操作时，端口的OE(低电平有效)打开输出驱动器，由存储矩阵读出的数据就出现在I/O线上。3、有冲突读写控制 当两个端口同时存取存储器同一存储单元时，便发生读写冲突。为解决此问题，特设置了BUSY标志。在这种情况下，片上的判断逻辑可以决定对哪个端口优先进行读写操作，而对另一个被延迟的端口置BUSY标志(BUSY变为低电平)，即暂时关闭此端口。463.5 并行存储器并行存储器二、多模块交叉存储器：一个由若干个模块组成的主存储器是线性编址的。这些地址在各模块中如何安排，有两种方式：一种是顺序方式，一种是交叉方式 473.5.2 多模块交叉存储器多模块交叉存储器l假设有n个模块，每个模块的容量为m个字（存储单元）l顺序方式的地址位数表示为：每个模块内的地址位片选地址位，模块选择顺序方式分配地址的方法是：先按行分配给每个顺序方式分配地址的方法是：先按行分配给每个模块，再按列对相同模块的字进行顺序分配。模块，再按列对相同模块的字进行顺序分配。483.5.2 多模块交叉存储器多模块交叉存储器1、顺序方式例M0M3共四个模块，则每个模块8个字（n=4,m=8）顺序方式：M0：07 M1：815 M2：1623 M3：2431l5位地址组织如下：X X X X X （2位 3位）l高位选模块，低位选块内地址l特点：某个模块进行存取时，其他模块不工作，优点是某一模块出现故障时，其他模块可以照常工作，通过增添模块来扩充存储器容量比较方便。缺点是各模块串行工作，存储器的带宽受到了限制。493.5.2 多模块交叉存储器多模块交叉存储器2、交叉方式l（可以实现多模块流水式并行存取）l假设有n个模块，每个模块的容量为m个字（存储单元）l交叉方式的地址位数表示为：每个模块内的地址片选，模块选择交叉方式分配地址的方法是：先按行分配给每个模交叉方式分配地址的方法是：先按行分配给每个模块，再依次对不同模块的字按行进行顺序分配。块，再依次对不同模块的字按行进行顺序分配。503.5.2 多模块交叉存储器多模块交叉存储器例M0M3共四个模块，则每个模块8个字（n=4,m=8）l交叉方式：l M0：0，4,.除以4余数为0l M1：1，5,.除以4余数为1l M2：2，6,.除以4余数为2l M3：3，7,.除以4余数为3l5位地址组织如下：X X X X X （3位 2位）l高位选块内地址，低位选模块l特点：连续地址分布在相邻的不同模块内，同一个模块内的地址都是不连续的。优点是对连续字的成块传送可实现多模块流水式并行存取，大大提高存储器的带宽。使用场合为成批数据读取。513.5.2 多模块交叉存储器多模块交叉存储器3、多模块交叉存储器的基本结构 右图为四模块交叉存储器结构框图。主存被分成4个相互独立、容量相同的模块M0，M1，M2，M3，每个模块都有自己的读写控制电路、地址寄存器和数据寄存器，各自以等同的方式与CPU传送信息。在理想情况下，如果程序段或数据块都是连续地在主存中存取，那么将大大提高主存的访问速度。523.5.2 多模块交叉存储器多模块交叉存储器l通常在一个存储周期T内，m个模块必须分时启动，则各个模块的启动间隔为 （则m又称为交叉存取度）l则交叉方式要比顺序方式的存储器，存取速度有望提高m倍53例例5 设存储器容量为设存储器容量为32字（字（5条地址线），字长条地址线），字长64位，模位，模块数块数m=4，分别用顺序方式和交叉方式进行组织。存储周，分别用顺序方式和交叉方式进行组织。存储周期期T=200ns，数据总线宽度为，数据总线宽度为64位，总线传送周期位，总线传送周期=50ns。若连续读出。若连续读出4个字，问顺序存储器和交叉存储器个字，问顺序存储器和交叉存储器的带宽各是多少的带宽各是多少?解：顺序存储器和交叉存储器连续读出4个字的信息总量都是：q=64b4=256b (bit)顺序存储器和交叉存储器连续读出4个字所需的时间分别是：t2=mT=4200ns=800ns=810-7st1=T+(m-1)=200ns+350ns=350ns=3510-7s顺序存储器和交叉存储器的带宽分别是：W2=q/t2=256b(810-7)s=320Mb/sW1=q/t1=256b(3510-7)s=730Mb/s存储器带宽：单位时间里存储器所存取的信息存储器带宽：单位时间里存储器所存取的信息 量，量，通常以位通常以位/秒或字节秒或字节/秒做度量单位。秒做度量单位。带宽带宽=读出读出4个字的信息量个字的信息量/读出读出4个字所需的时间个字所需的时间作业：作业：p102 8543.6 Cache存储器存储器1、基本原理（1）功能：解决CPU和主存之间的速度不匹配问题l一般采用高速的SRAM构成。lCPU和主存之间的速度差别很大采用两级或多级Cache系统553.6 Cache存储器存储器563.6 Cache存储器存储器（2）cache基本原理lcache是介于CPU和主存之间的小容量存储器，但存取速度比主存快。主存容量配置几百MB的情况下，cache的典型值是几百KB。l从功能上看，它是主存（由DRAM组成）的缓冲存储器，由高速的SRAM组成。l为追求高速，包括管理在内的全部功能由硬件实现，因而对程序员是透明的。573.6 Cache存储器存储器（2）cache基本原理lCache的设计依据的设计依据:CPU这次访问过的数据，下次有很大这次访问过的数据，下次有很大的可能也是访问附近的数据。（程序的局部性原理）的可能也是访问附近的数据。（程序的局部性原理）lCPU与与Cache之间的数据传送是以之间的数据传送是以字为单位字为单位l主存与主存与Cache之间的数据传送是以之间的数据传送是以块为单位块为单位lCPU读主存时，便把地址同时送给读主存时，便把地址同时送给Cache和主存，和主存，Cache控制逻辑依据地址判断此字是否在控制逻辑依据地址判断此字是否在Cache中，若中，若在，此字立即传送给在，此字立即传送给CPU，否则，则用主存读周期把，否则，则用主存读周期把此字从主存读出送到此字从主存读出送到CPU，与此同时，把，与此同时，把含有这个字的含有这个字的整个数据块整个数据块从主存读出从主存读出送到送到cache中中。583.6 Cache存储器存储器（3）Cache的命中率 从CPU来看，增加一个cache的目的，就是在性能上使主存的平均读出时间尽可能接近cache的读出时间。为了达到这个目的，在所有的存储器访问中由cache满足CPU需要的部分应占很高的比例，即cache的命中率应接近于1。由于程序访问的局部性，实现这个目标是可能的。593.6 Cache存储器存储器l在一个程序执行期间，设Nc表示cache完成存取的总次数，Nm表示主存完成存取的总次数，h定义为命中率，则有 h=Nc/（Nc+Nm）l若tc表示命中时的cache访问时间，tm表示未命中时的主存访问时间，1-h表示未命中率，则cache/主存系统的平均访问时间ta为：（其中“/”表示“以及”的意思）ta=h*tc+（1-h）tml我们追求的目标是，以较小的硬件代价使cache/主存系统的平均访问时间ta越接近tc越好。l设r=tm/tc表示主存慢于cache的倍率，e表示访问效率，则有e=tc/ta=tc/（h*tc+（1-h）*tm）=1/（h+（1-h）*r）=1/（r+（1-r）*h）l由表达式看出，为提高访问效率，命中率h越接近1越好，r值以510为宜，不宜太大。60例例6 CPU执行一段程序时，执行一段程序时，cache完成存取的次数为完成存取的次数为1900次，主存完成存取的次数为次，主存完成存取的次数为100次，已知次，已知cache存取周期存取周期为为50ns，主存存取周期为，主存存取周期为250ns，求，求cache/主存系统的效主存系统的效率和平均访问时间。率和平均访问时间。l公式命中率命中率 Cache/主存系统的主存系统的平均访问时间平均访问时间访问效率访问效率Cache与内存的速与内存的速度比度比NcNmtctmtae61例例6解：解：lh=Nc/（Nc+Nm）=1900/(1900+100)=0.95lr=tm/tc=250ns/50ns=5le=1/(r+(1-r)h)=1/(5+(1-5)0.95=83.3%lta=tc/e=50ns/0.833=60ns 作业：作业：p102 9，10623.6.2主存与主存与Cache的地址映射的地址映射l无论选择那种映射方式，都要把主存和cache划分为同样大小的“块”。（主存和cache 数据交换单位是“块”，即主存的一个存储单元）l选择哪种映射方式，要考虑：l硬件是否容易实现l地址变换的速度是否快l主存空间的利用率是否高l主存装入一块时，发生冲突的概率l以下我们介绍三种映射方法：l全相联方式、直接方式、组相联方式全相联方式、直接方式、组相联方式。63一一、全相联的映射方式、全相联的映射方式l映射方法（多对多）lCache的数据块大小称为行，主存的数据块大小称为块。l行和块是等长的。l一个主存块可以拷贝到cache的任意行l地址变换l标记实际上构成了一个目录表。64一一、全相全相联的联的映射映射方式方式65一一、全相联的映射方式、全相联的映射方式1、将地址分为两部分（块号和字），在内存块写入Cache时，同时写入块号标记；2、CPU给出访问地址后，也将地址分为两部分（块号和字），比较电路块号与Cache表中的标记进行比较，相同表示命中，访问相应单元；如果没有命中访问内存，CPU 直接访问内存，并将被访问内存的相对应块写入Cache。66一一、全相联的映射方式、全相联的映射方式3、特点：l优点：冲突概率小，Cache的利用高。l缺点：比较器难实现，需要一个访问速度很快代价高的相联存储器4、应用场合：l适用于小容量的Cache67二、直接映射方式二、直接映射方式1、映射方法（一对多）l一个主存块只能拷贝到cache的指定行如：（cache的行号i，主存的块号j，m为cache的总行数）li=j mod ml主存第j块内容拷贝到Cache的i行 例cache容量16字（m行），主存容量256字，则地址2，18，34.242（j）等都存放在cache的地址2（i）内，如果第一次2在cache中，下次访问内存的块34的内容，则不管cache其他位置的内容访问情况，都会引起cache中的2块内容的替换68二、二、直接映直接映射射方式方式2、基本原理l将地址分为三部分（标记，行号和字），l利用行号选择相应行；l把行标记与CPU访问地址进行比较，相同表示命中，访问Cache；l如果没有命中，访问内 存，并将相应块写入Cache69二、直接映射方式二、直接映射方式3、特点l优点：比较电路少m倍线路，所以硬件实现简单，Cache地址为主存地址的低几位，不需变换。l缺点：块号相距m整数倍的两个内存块存于同一cache行时，会发生冲突。发生冲突时，要将原先存入的行换出，但很可能过一段时间又要换入。频繁的置换时cahce效率下降。冲突概率高（抖动）4、应用场合l适合大容量Cache70三、组相联映射方式三、组相联映射方式l前两者的组合前两者的组合lCache分组，组间采用直接映射方式，组内采用全相分组，组间采用直接映射方式，组内采用全相联的映射方式联的映射方式lCache分成分成u组，每组组，每组v行。行。cache共共m=uv行。行。l主存块放在哪个组是固定的（直接映射），放在该组主存块放在哪个组是固定的（直接映射），放在该组的哪一行是灵活的（全相联映射）。的哪一行是灵活的（全相联映射）。l映射方法（一对多）映射方法（一对多）lq=j mod ul主存第主存第j块内容拷贝到块内容拷贝到Cache的的q组组中的中的某行某行l地址变换地址变换l将地址分为三部分（将地址分为三部分（标记，组号和字标记，组号和字）l设主存地址设主存地址x，看是不是在，看是不是在cache中，先中，先y=x mod u，则在，则在y组中一次查找组中一次查找713、组相联映射方式、组相联映射方式l分析：比全相联容易实现，冲突低lv=1，则为直接相联映射方式lu=1，则为全相联映射方式lv的取值一般比较小，一般是2的幂，称之为v路组相联cache.7273.3替换策略替换策略lCahce要求它尽量保存最新数据。lLFU（最不经常使用）：将一段时间内被访问次数最少的那行数据换出。被访问的行计数器增加1，换出值最小的行。不能反映近期cache的访问情况。lLRU（近期最少使用）：将近期长久未被访问过的行换出。被访问的行计数器置0，其他的计数器增加1，换出值最大的行。符合cache的工作原理。l随机替换：随机替换策略实际上是不要什么算法，从特定的行位置中随机地选取一行换出即可。随机替换策略的功效只是稍逊于前两种策略。74.4写操作策略写操作策略l由于cache的内容只是主存部分内容的拷贝，它应当与主存内容保持一致。而CPU对cache的写入更改了cache的内容。如何与主存内容保持一致，可选用如下三种写操作策略。写回法：换出时，对行的修改位进行判断，决定是写回还是舍掉。全写法：写命中时，Cache与内存一起写写一次法：与写回法一致，但是第一次Cache命中时采用全写法。75.5 Pentium PC的的Cache1、主要包括四个部分：l取指/译码单元：顺序从L2cache中取程序指令，将它们译成一系列的微指令，并存入L1指令cache中。l乱序执行逻辑：依据数据相关性和资源可用性，调度微指令的执行，因而微指令可按不同于所取机器指令流的顺序被调度执行。l执行单元：它执行微指令，从L1数据cache中取所需数据，并在寄存器组中暂存运算结果。l存储器子系统：这部分包括L2cache、L3cache和系统总线。当L1、L2cache未命中时，使用系统总线访问主存。系统总线还用于访问I/O资源。不同于所有先前Pentium模式和大多数处理器所采用的结构，Pentium 4的指令cache位于指令译码逻辑和执行部件之间。其设计理念是：Pentium 4将机器指令译成由微指令组成的简单RISC类指令，而使用简单定长的微指令可允许采用超标量流水线和调度技术，从而增强机器的性能。76.5 Pentium PC的的Cachel基本原理见下图77本本 章章 小小 结结l对存储器的要求是容量大、速度快、成本低。为了解决了这三方面的矛盾，计算机采用多级存储体系结构，即cache、主存和外存。CPU能直接方问内存(cache、主存），但不能直接访问外存。存储器的技术指标有存储容量、存取时间、存储周期、存储器带宽。l广泛使用的SRAM和DRAM都是半导体随机读写存储器，前者速度比后者快，但集成度不如后者高。二者的优点是体积小，可靠性高，价格低廉，缺点是断电后不能保存信息。78本本 章章 小小 结结l只读存储器和闪速存储器正好弥补了SRAM和DRAM的缺点，即使断电也仍然保存原先写入的数据。特别是闪速存储器能提供高性能、低功耗、高可靠性以及移动性，是一种全新的存储器体系结构。l双端口存储器和多模块交叉存储器属于并行存储器结构。前者采用空间并行技术，后者采用时间并行技术。这两种类型的存储器在科研和工程中大量使用。79本本 章章 小小 结结lcache是一种高速缓冲存储器，是为了解决CPU和主存之间速度不匹配而采用的一项重要的硬件技术，并且发展为多级cache体系，指令cache与数据cache分设体系。要求cache的命中率接近于1。主存与cache的地址映射有全相联、直接、组相联三种方式。其中组相联方式是前二者的折衷方案，适度地兼顾了二者的优点又尽量避免其缺点，从灵活性、命中率、硬件投资来说较为理想，因而得到了普遍采用。返回80