[精选]现代计算机体系结构研讨35566.pptx
18.03.2023计算机体系结构Chapter1.1本资料来源18.03.2023计算机体系结构Chapter1.2计算机体系结构周学海xhzhouustc.edu.0551-3601558中国科学技术大学计算机系18.03.2023计算机体系结构Chapter1.3课程安排授课方式总学时60学时每次三节课评分方式考试80平时小测验10平时作业1018.03.2023计算机体系结构Chapter1.4教材与主要参考书张晨曦等，计算机体系结构，高等教育出版社John L.Hennessy,David A.Patternson,Computer Organization&Design:The Hardware/Software Interface,2nd ed.San Francisco:Morgan Kaufmann Publishers,Inc.1998,机械工业出版社（影印版）1999David A.Patternson,John L.Hennessy,Computer Architecture:A Quantitative Apprach.2nd ed.San Francisco:Morgan Kaufmann Publishers,Inc.,1996,机械工业出版社（影印版）,199918.03.2023计算机体系结构Chapter1.5第1章 绪论1.1 引论计算机的食物链为什么会有如此变化现代计算机系统发展趋势1.2 计算机体系结构的基本概念1.3 定量分析技术基础18.03.2023计算机体系结构Chapter1.6现实世界食物链大鱼吃小鱼18.03.2023计算机体系结构Chapter1.7截止1988年计算机食物链18.03.2023计算机体系结构Chapter1.81998年计算机食物链18.03.2023计算机体系结构Chapter1.91.为什么会有如此变化Performance电路技术的发展CMOS VLSI 取代了原来的TTL,ECL技术，提高了器件性能，降低了器件成本。计算机体系结构技术的发展，提高了低端产品的性能。RISC,Superscalar,VLIW,RAID,.Price 开发周期缩短，难度降低采用 CMOS VLSI，组件减少，系统相对较小。大规模生产，批量大系列机的概念，使得服务成本降低。Function网络技术，互连网络技术的发展，使得低端产品的功能增强。18.03.2023计算机体系结构Chapter1.102.Technology Trends:Microprocessor CapacityCMOSimprovements:Diesize:2Xevery3yrsLinewidth:halve/7yrsAlpha 21264:15 millionPentium Pro:5.5 millionPowerPC 620:6.9 millionAlpha 21164:9.3 millionSparc Ultra:5.2 millionMooresLawISSCC 2000:25M+transistor processors(Intel)18.03.2023计算机体系结构Chapter1.11Memory Capacity(Single Chip DRAM)yearsize(Mb)cyctime19800.0625250 ns19830.25220 ns19861190 ns19894165 ns199216145 ns199664120 ns2000256100 ns18.03.2023计算机体系结构Chapter1.12Technology Trends(Summary)CapacitySpeed(latency)Logic2xin3years2xin3yearsDRAM4xin3years2xin10yearsDisk4xin3years2xin10years18.03.2023计算机体系结构Chapter1.13Processor frequency trendFrequencydoubleseachgenerationNumberofgates/clockreduceby25%18.03.2023计算机体系结构Chapter1.14Processor Performance Trends18.03.2023计算机体系结构Chapter1.15Professor Performance18.03.2023计算机体系结构Chapter1.16Performance Trends (Summary)性能:提高50 per year（2X/18 months)性价比:提高70%per year18.03.2023计算机体系结构Chapter1.17 未来可能达到的水平Die Area:2.5x2.5 cmVoltage:0.6-0.9 VTechnology:0.07 m15 times denserthan today2.5 times powerdensity5 times clock rateSilicon in 2010Silicon in 201018.03.2023计算机体系结构Chapter1.18未来的热点之一Source:Richard Newton18.03.2023计算机体系结构Chapter1.19 嵌入式微处理器什么是嵌入式微处理器一种可编程处理器，产品的最终用户不能访问其编程接口,用户只能通过应用程序与其交互例如-PDA-3COM Palm pilots 原先为嵌入式系统设计，后来将编程接口开放转向通用计算机系统18.03.2023计算机体系结构Chapter1.20一些有趣的数据Intel 4004 是为嵌入式应用(计算器）设计现在的微处理器95%用于嵌入式系统SSH3/4(Hitachi):best selling RISC microprocessor50%的收入来源于嵌入式系统应用于特定领域的微处理器MicrocontrollersDSPsMedia ProcessorsGraphics ProcessorsNetwork and Communication Processors18.03.2023计算机体系结构Chapter1.21嵌入式微处理器的评价FlexibilityPowerCostPerformance as a Functionality ConstraintPerformance as a Functionality Constraint(“Just-in-Time Computing”)(“Just-in-Time Computing”)Components of CostArea of die/yieldCode density(memory is the major part of die size)PackagingDesign effortProgramming costTime-to-marketReusability18.03.2023计算机体系结构Chapter1.221.2 计算机系统基本概念计算机体系结构定义指令集结构（Instruction Set Architecture)计算机体系结构研究的内容18.03.2023计算机体系结构Chapter1.23计算机体系结构的定义Computer Architecture =Instruction Set Architecture+Machine Organization+.Instruction Set Architecuture.the attributes of a computing system as seen by the programmer,i.e.the conceptual structure and functional behavior,as distinct from the organization of the data flows and controls the logic design,and the physical implementation.Amdahl,Blaaw,and Brooks,196418.03.2023计算机体系结构Chapter1.24SOFTWARESOFTWARE可编程存储器组织可编程存储器组织指令功能指令功能指令集指令集异常的条件异常的条件数据类型和数据结构：编码和表示数据类型和数据结构：编码和表示访问数据和指令的寻址方式访问数据和指令的寻址方式指令集结构18.03.2023计算机体系结构Chapter1.251950s to 1960s:体系结构课程：计算机运算器1970s to 1980s中:体系结构课程:指令集设计1990s:计算机体系结构课程：CPU设计，存储系统设计，I/O系统设计，多处理器，网络2000s:计算机体系结构课程：非 Von-Neumann 结构,可重新配置体系结构等。2010s:Self Adapting Systems?Self Organizing Structures?DNA System/Quantum Computing?计算机体系结构定义的变化18.03.2023计算机体系结构Chapter1.26instructionsetsoftwarehardware指令集结构:a Critical Interface18.03.2023计算机体系结构Chapter1.27Digital Alpha(v1,v3)1992-97HP PA-RISC(v1.1,v2.0)1986-96Sun Sparc(v8,v9)1987-95SGI MIPS(MIPS I,II,III,IV,V)1986-96Intel(8086,80286,80386,1978-96 80486,Pentium,MMX,.)指令集结构举例18.03.2023计算机体系结构Chapter1.28指令类型Load/StoreComputationalJump and BranchFloating PointcoprocessorMemory ManagementSpecialR0-R31PCHILOOPOPOPrsrtrdsafunctrsrtimmediatejumptarget3种指令格式种指令格式:all32bitswideRegistersMIPS R3000 Instruction Set Architecture(Summary)18.03.2023计算机体系结构Chapter1.29Logic Designers ViewISALevelFUs&Interconnect主要部件的容量和性能特征(e.g.,Registers,ALU,Shifters,Logic Units,.)这些部件的互连方式这些部件间所传送的信息这些信息流是如何控制的.FU的实现技术（以实现ISA)ISARegister Transfer Level (RTL)描述计算机组织18.03.2023计算机体系结构Chapter1.30The Big PictureControlDatapathMemoryProcessorInputOutput计算机五大部件计算机五大部件(1946年以来）年以来）18.03.2023计算机体系结构Chapter1.31Example OrganizationTI SuperSPARCtm TMS390Z50 in Sun SPARCstation20Boot PROMFloating-point UnitInteger UnitInstCacheRefMMUDataCacheStoreBufferBus InterfaceSuperSPARCL2$CCMBus ModuleMBusL64852MBuscontrolM-SAdapterSBusDRAM ControllerSBusDMASCSIEthernetSTDIOserialkbdmouseaudioRTCFloppySBusCards18.03.2023计算机体系结构Chapter1.32计算机系统的层次结构不同的抽象层所“看到”的机器特征不同随着技术的发展，体系结构的定义也在发生变化体系结构的研究涉及设计，度量和评价三方面I/OsystemInstr.SetProc.CompilerOperatingSystemApplicationDigitalDesignCircuitDesignInstructionSetArchitectureFirmwareDatapath&ControlLayout18.03.2023计算机体系结构Chapter1.33ComputerArchitectureTechnologyProgrammingLanguagesOperatingSystemsHistoryApplicationsCleverness体系结构发展的源动力18.03.2023计算机体系结构Chapter1.34体系结构设计是个循环的过程体系结构设计是个循环的过程:在计算机系统的各个层次上搜索在计算机系统的各个层次上搜索可能的设计空间可能的设计空间BadIdeasCreativityGood IdeasGood IdeasMediocreIdeasCost/PerformanceAnalysis计算机体系结构设计过程Chapter1.35InstructionSetArchitecturePipelining,HazardResolution,Superscalar,Reordering,Prediction,Speculation,Vector,VLIW,DSP,ReconfigurationAddressing,Protection,ExceptionHandlingL1CacheL2CacheDRAMDisks,WORM,TapeCoherence,Bandwidth,LatencyEmergingTechnologiesInterleavingBusprotocolsRAIDVLSIInput/OutputandStorageMemoryHierarchyPipeliningandInstructionLevelParallelism计算机体系结构研究的内容18.03.2023计算机体系结构Chapter1.36MInterconnectionNetworkSPMPMPMPTopologies,Routing,Bandwidth,Latency,ReliabilityNetworkInterfacesSharedMemory,MessagePassing,DataParallelismProcessor-Memory-SwitchMultiprocessorsNetworksandInterconnections计算机体系结构研究内容（续）18.03.2023计算机体系结构Chapter1.37SimulateNewSimulateNewDesignsandDesignsandOrganizationsOrganizationsTechnologyTrendsEvaluateExistingEvaluateExistingSystemsforSystemsforBottlenecksBottlenecksBenchmarksWorkloadsImplementNextImplementNextGenerationSystemGenerationSystemImplementationComplexityAnalysisDesignImple-mentation计算机工程方法学18.03.2023计算机体系结构Chapter1.38小结计算机体系结构、组织和实现计算机体系结构研究软、硬件功能分配以及机器级界面的确定，计算机体系结构研究软、硬件功能分配以及机器级界面的确定，既由机器语言程序设计者或编译程序设计者所看到的机器物理既由机器语言程序设计者或编译程序设计者所看到的机器物理系统的抽象或定义。但它不包括机器内部的数据流和控制流、系统的抽象或定义。但它不包括机器内部的数据流和控制流、逻辑设计和器件设计等。逻辑设计和器件设计等。计算机组织：计算机体系结构的逻辑实现，包括机器级内的数计算机组织：计算机体系结构的逻辑实现，包括机器级内的数据流和控制流的组成以及逻辑设计等。它着眼于机器级内各事据流和控制流的组成以及逻辑设计等。它着眼于机器级内各事件的排序方式与控制机构、各部件的功能以及各部件间的联系。件的排序方式与控制机构、各部件的功能以及各部件间的联系。计算机实现（计算机实现（Computer ImplementationComputer Implementation）是指计算机组成的物）是指计算机组成的物理实现，包括处理机、主存等部件的物理结构，器件的集成度理实现，包括处理机、主存等部件的物理结构，器件的集成度和速度，器件、模块、插件、底板的划分与连接，专用器件的和速度，器件、模块、插件、底板的划分与连接，专用器件的设计，微组装技术，信号传输，电源、冷却及整机装配技术等。设计，微组装技术，信号传输，电源、冷却及整机装配技术等。它着眼于器件技术和微组装技术，其中，器件技术在实现技术它着眼于器件技术和微组装技术，其中，器件技术在实现技术中起着主导作用。中起着主导作用。18.03.2023计算机体系结构Chapter1.391.3 定量分析技术基础计算机性能度量性能设计和评测的基本原则系统结构评价标准18.03.2023计算机体系结构Chapter1.40计算机性能度量客户：给定一组机器，哪个性能最好?价格最低?性/价比最高（performance/cost）?设计者：面临的设计选择：最大限度的提高性能价格最低?性/价比最高（performance/cost）?两者均需要进行基本的比较和评价标准我们的目标我们的目标是理解性能和成本与体系结构选择的关系18.03.2023计算机体系结构Chapter1.41Timetodothetask(ExecutionTime)execution time,response time,latencyTasksperday,hour,week,sec,ns.(Performance)throughput,bandwidth这两者经常会有冲突的。PlaneBoeing747BAD/SudConcordeSpeed610 mph1350 mphDCtoParis6.5 hours3 hoursPassengers470132Throughput(pmph)286,700178,200哪个性能高？性能的两种含义18.03.2023计算机体系结构Chapter1.42之一：性能定义为每秒完成的任务数bigger is better之二：如果我们更关心响应时间（response time）performance(x)=1 execution_time(x)“X 性能是Y的n倍”是指 Performance(X)n =-Performance(Y)性能定义18.03.2023计算机体系结构Chapter1.43Time of Concorde vs.Boeing 747?Concord is 1350 mph/610 mph=2.2 times faster =6.5 hours/3 hoursThroughput of Concorde vs.Boeing 747?Concord is 178,200 pmph/286,700 pmph=0.62“times faster”Boeing is 286,700 pmph/178,200 pmph=1.60“times faster”Boeing is 1.6 times(“60%”)faster in terms of throughputConcord is 2.2 times(“120%”)faster in terms of flying time 我们主要关注单个任务的执行时间 程序由一组指令构成，指令的吞吐率（Instruction throughput）非常重要!举例18.03.2023计算机体系结构Chapter1.44性能设计与评测的基本原则大概率事件优先原则Amdahl定律程序局部性原理时间局部性空间局部性18.03.2023计算机体系结构Chapter1.45假设对机器的部件进行了改进 ExTime w/o E Performance w/ESpeedup(E)=-=-ExTime w/E Performance w/o E假设可改进部分E在原来的计算时间所占的比例为F，而部件加速比为S，任务的其他部分不受影响，则ExTime(with E)=(1-F)+F/S)X ExTime(without E)Speedup(with E)=1/(1-F)+F/S)重要结论：如果只针对整个任务的一部分进行优化，那么所获得的加速比不大于1/(1-F)Amdahls Law18.03.2023计算机体系结构Chapter1.46举例假设给定一体系结构硬件不支持乘法运算，乘法需要通过软件来实现。在软件中做一次乘法需要200个周期，而用硬件来实现只要4个时钟周期。如果假设在程序中有10的乘法操作，问整个程序的加速比？如果有40的乘法操作，问整个程序的加速比又是多少？假设一计算机在运行给定的一程序时，有90的时间用于处理某一类特定的计算。现将用于该类计算的部件性能提高到原来的10倍。如果该程序在原来的机器上运行需100秒，那么该程序在改进后的机器上运行时间是多少？新的系统相对于原来的系统加速比是多少？在新的系统中，原来特定的计算占整个计算的比例是多少？18.03.2023计算机体系结构Chapter1.47CompilerProgrammingLanguageApplicationDatapathControlTransistors Wires PinsISAFunctionUnits(millions)ofInstructionspersecondMIPS(millions)of(F.P.)operationspersecondMFLOP/sCyclespersecond(clockrate)MegabytespersecondSecondsperprogramUsefulOperationspersecondEach metric has a place and a purpose,and each can be misused性能度量18.03.2023计算机体系结构Chapter1.48CPU性能度量CPUtime=Seconds=InstructionsxCyclesxSecondsProgramProgramInstructionCycle Inst Count CPIClock RateProgram XCompiler X (X)Inst.Set.X XOrganization X XTechnology X18.03.2023计算机体系结构Chapter1.49CPU time=ClockCycleTime*CPI *Ii =1niiCPI =CPI *F where F =I i =1niiiiInstruction CountinstructionfrequencyCPIave=(CPU Time*Clock Rate)/Instruction Count=Clock Cycles/Instruction Count“Averagecyclesperinstruction”CPU性能度量CPI18.03.2023计算机体系结构Chapter1.50CPI计算举例BaseMachine(Reg/Reg)OpFreqCPIiCPIi*Fi(%Time)ALU50%1.5(33%)Load20%2.4(27%)Store10%2.2(13%)Branch20%2.4(27%)1.518.03.2023计算机体系结构Chapter1.51基本评估方法测试程序真实程序最可靠的方法。核心程序从真实程序中提取的较短的但很关键的代码构成。小测试程序代码在100行以内合成测试程序首先统计大量应用程序中的操作，得到操作比例，然后认为合成一些测试程序SPEC测试程序18.03.2023计算机体系结构Chapter1.52Eighteen application benchmarks(with inputs)reflecting a technical computing workloadEight integergo,m88ksim,gcc,compress,li,ijpeg,perl,vortexTen floating-point intensivetomcatv,swim,su2cor,hydro2d,mgrid,applu,turb3d,apsi,fppp,wave5Must run with standard compiler flagseliminate special undocumented incantations that may not even generate working code for real programsSPEC95测试程序18.03.2023计算机体系结构Chapter1.53系统结构的评价标准性能MIPS：每秒百万条指令数MIPS=IC/(CPI*IC*T*106)=1/(CPI*T*106)缺陷(1)MIPS依赖于指令集(2)在同一台机器上，MIPS因程序不同而变化，有时差别加大(3)MIPS可能与性能相反举例。在一台load-store型机器上，有一程序优化编译可以使ALU 操作减少到原来的50,其他操作数量不变。F=500MHZALU(43%1)loads(21%2)stores(12%2)Branches(24%2)MFLOPS 基于操作而非指令，它可以用来比较两种不同的机器。但MFLOPS也并非可靠，因为不同机器上浮点运算集不同。CRAY-2没有除法指令，Motorola 68882有SPEC测试18.03.2023计算机体系结构Chapter1.54本章小结设计发展趋势设计发展趋势CapacitySpeedLogic2x in 3 years2x in 3 yearsDRAM4x in 3 years2x in 10 yearsDisk4x in 3 years2x in 10 years运行任务的时间运行任务的时间Execution time,response time,latency单位时间内完成的任务数单位时间内完成的任务数Throughput,bandwidth“X性能是性能是Y的的n倍倍”：ExTime(Y)Performance(X)-=-ExTime(X)Performance(Y)演讲完毕，谢谢观看！
