《第6周大课多层次的存储器5》由会员分享，可在线阅读，更多相关《第6周大课多层次的存储器5（25页珍藏版）》请在金锄头文库上搜索。
1、1 / 25计算机组成原理回回 顾顾 存储器访问的无论是取指令还是存取数据，处理存储器访问的无论是取指令还是存取数据，处理器访问的存储单元趋向于聚集在一个相对较小的连器访问的存储单元趋向于聚集在一个相对较小的连续存储单元区域内。续存储单元区域内。是指将要访问的信息就是现在正在访问的信息。是是指将要访问的信息就是现在正在访问的信息。是指将要用到的信息就在正使用的信息旁边。指将要用到的信息就在正使用的信息旁边。 计算机存储系统的层次结构中，最重要的两个层计算机存储系统的层次结构中，最重要的两个层次是采用高速缓冲存储器的次是采用高速缓冲存储器的“Cache 主存主存”层次层次，以及基于虚拟存储器的以
2、及基于虚拟存储器的“主存主存 辅存辅存”层次层次。 12 / 25计算机组成原理教学内容教学内容CacheCache存储器存储器 映射机制映射机制 替换策略替换策略 写策略写策略23 / 25计算机组成原理掌握掌握Cache的三种映射机制，根据给定的映射机制，的三种映射机制，根据给定的映射机制，能熟练写出内存地址的格式；能熟练写出内存地址的格式；熟悉熟悉Cache的替换策略；的替换策略；了解了解Cache的回写策略。的回写策略。教学要求教学要求34 / 25计算机组成原理Cache存储器存储器CacheCache基本原理基本原理地址映射；地址映射；替换策略；替换策略；写一致性；写一致性；45
3、/ 25计算机组成原理Cache存储器存储器CacheCache存储器的结构存储器的结构56 / 25计算机组成原理主存与主存与Cache的地址映射的地址映射l无论选择那种映射方式，都要把主存和无论选择那种映射方式，都要把主存和cache划分为同样大小的划分为同样大小的“块块”。l选择哪种映射方式，要考虑：选择哪种映射方式，要考虑：硬件是否容易实现硬件是否容易实现地址变换的速度是否快地址变换的速度是否快主存空间的利用率是否高主存空间的利用率是否高主存装入一块时，发生冲突的概率主存装入一块时，发生冲突的概率67 / 25计算机组成原理全相联的映射方式全相联的映射方式l映射方法（多对多）映射方法（
4、多对多）主存的任意一块可以拷贝到主存的任意一块可以拷贝到cachecache中的任意中的任意一行一行l地址变换地址变换CacheCache行的标记实际上构成了一个目录表行的标记实际上构成了一个目录表78 / 25计算机组成原理全相联的映射方式全相联的映射方式89 / 25计算机组成原理全相联的映射方式全相联的映射方式1 1、主存将地址分为两部分（块号和字），将主存中一、主存将地址分为两部分（块号和字），将主存中一个块存入个块存入CacheCache的某一行的同时，把块地址存入行标的某一行的同时，把块地址存入行标记中；记中；2 2、CPUCPU给出访问地址后，也将地址分为两部分（块号给出访问地址
5、后，也将地址分为两部分（块号和字），利用比较电路对指令中块号和和字），利用比较电路对指令中块号和CacheCache表中的表中的标记进行比较，相同表示命中，访问相应单元；如标记进行比较，相同表示命中，访问相应单元；如果没有命中访问内存，果没有命中访问内存，CPU CPU 直接访问内存，并将被直接访问内存，并将被访问内存的相对应块写入访问内存的相对应块写入CacheCache。910 / 25计算机组成原理全相联的映射方式全相联的映射方式3 3、特点：、特点：优点：冲突概率小，优点：冲突概率小，CacheCache的利用高。的利用高。缺点：所有行的标记都要比较，缺点：所有行的标记都要比较， Ca
6、che Cache容量容量越大，速度越慢，比较电路复杂，需要一个越大，速度越慢，比较电路复杂，需要一个访问速度很快、代价高的相联存储器访问速度很快、代价高的相联存储器4 4、应用场合：、应用场合：适用于小容量的适用于小容量的CacheCache1011 / 25计算机组成原理直接映射方式直接映射方式1 1、映射方法（一对多）如：、映射方法（一对多）如：i= j mod mi= j mod m主存第主存第j j块内容拷贝到块内容拷贝到CacheCache的的i i行行一般一般i i和和m m都是都是2 2N N级级 例例cachecache容量容量1616字，主存容量字，主存容量256256字，
7、则地址字，则地址2 2，1818，34.24234.242等都存放在等都存放在cachecache的地址的地址2 2内，如果第内，如果第一次一次2 2在在cachecache中，下次访问中，下次访问3434内容，则不管内容，则不管cachecache其其他位置的内容访问情况，都会引起他位置的内容访问情况，都会引起2 2块内容的替换块内容的替换1112 / 25计算机组成原理2 2、基本原理、基本原理l利用行号选择相应行；利用行号选择相应行；l把行标记与把行标记与CPUCPU访问地址进行比较，相同表示命中，访问地址进行比较，相同表示命中，访问访问CacheCache；l如果没有命中，访问内存，并
8、将相应块写入如果没有命中，访问内存，并将相应块写入CacheCache直接映射方式直接映射方式1213 / 25计算机组成原理直接映射方式直接映射方式1314 / 25计算机组成原理3 3、特点、特点优点：比较电路少优点：比较电路少m m倍线路，所以硬件实现简单，倍线路，所以硬件实现简单，CacheCache地址为主存地址的低几位，不需变换。地址为主存地址的低几位，不需变换。缺点：冲突概率高（抖动）缺点：冲突概率高（抖动）4 4、应用场合、应用场合适合大容量适合大容量CacheCache直接映射方式直接映射方式1415 / 25计算机组成原理组相联映射方式组相联映射方式l前两者的组合前两者的组
9、合CacheCache分组，组间采用直接映射方式，组内采用全分组，组间采用直接映射方式，组内采用全相联的映射方式相联的映射方式CacheCache分组分组U U，组内容量，组内容量V V映射方法（一对多）映射方法（一对多）q= j mod uq= j mod u主存第主存第j j块内容拷贝到块内容拷贝到CacheCache的的q q组中的某行组中的某行地址变换地址变换设主存地址设主存地址x，看是不是在，看是不是在cache中，中， 先先y= x mod uy= x mod u，则在，则在y y组中一次查找组中一次查找1516 / 25计算机组成原理组相联映射方式组相联映射方式分析：比全相联容易
10、实现，冲突低分析：比全相联容易实现，冲突低v=1，则为直接相联映射方式，则为直接相联映射方式u=1，则为全相联映射方式，则为全相联映射方式v的取值一般比较小，的取值一般比较小， 一般是一般是2的幂，称之为的幂，称之为v路组相联路组相联cache.1617 / 25计算机组成原理组相联映射方式组相联映射方式1718 / 25计算机组成原理组相联映射方式组相联映射方式例：一个组相联例：一个组相联CacheCache由由6464个行组成，每组个行组成，每组4 4行。行。主存储器包含主存储器包含4K4K个块，每块个块，每块128128字。请表示内存字。请表示内存地址的格式。地址的格式。解：块大小=行大
11、小=2w个字=128=27 w=7 每组的行数=k=4 Cache的行数=kv=K x 2d=4 x 2d=64 d=4 组数v=2d=24=16 主存的块数=2s=4K=212 s=12 标记大小（s-d）位=12-4=8 主存地址长度 （s+w）=19位 主存地址单元数 2s+w=219标记标记 8 8位位组号组号4 4位位字号字号 7 7位位1819 / 25计算机组成原理替换策略替换策略lLFU（最不经常使用最不经常使用 ）：被访问的行计数器增加）：被访问的行计数器增加1，换值，换值小的行，不能反映近期小的行，不能反映近期cache的访问情况，的访问情况，lLRU（近期最少使用）近期最
12、少使用） ：被访问的行计数器置：被访问的行计数器置0，其他的，其他的计数器增加计数器增加1，换值大的行，符合，换值大的行，符合cache的工作原理的工作原理l随机替换：随机替换：随机替换策略实际上是不要什么算法，从特定随机替换策略实际上是不要什么算法，从特定的行位置中随机地选取一行换出即可。这种策略在硬件上的行位置中随机地选取一行换出即可。这种策略在硬件上容易实现，且速度也比前两种策略快。缺点是随意换出的容易实现，且速度也比前两种策略快。缺点是随意换出的数据很可能马上又要使用，从而降低命中率和数据很可能马上又要使用，从而降低命中率和cachecache工作工作效率。但这个不足随着效率。但这个不
13、足随着cachecache容量增大而减小。随机替换容量增大而减小。随机替换策略的功效只是稍逊于前两种策略。策略的功效只是稍逊于前两种策略。1920 / 25计算机组成原理l例子：设例子：设cachecache有有1 1、2 2、3 3、4 4共共4 4个块，个块，a a、b b、c c、d d等为主存中的块等为主存中的块, ,访问顺序一次如下：访问顺序一次如下：a a、b b、c c、d d、b b、b b、c c、c c、d d、d d、a ,a ,下次若要再访问下次若要再访问e e块。块。问，采用问，采用LFULFU和和LRULRU算法替换结果是不是相同？算法替换结果是不是相同？ 替换策略
14、替换策略2021 / 25计算机组成原理LFU（最不经常使用）LRU（近期最少使用）说明1块2块3块4块说明1块2块3块4块aa进入1000a进入0111bb进入1100b进入1022cc进入1110c进入2103dd进入1111d进入3210b命中1211命中4021b命中1311命中5032c命中1321命中6103c命中1331命中7204d命中1332命中8310d命中1333命中9420a命中2333命中0531e替换a1000替换b1042替换策略替换策略2122 / 25计算机组成原理写操作策略写操作策略l由于由于cachecache的内容只是主存部分内容的拷贝，它应的内容只是主
15、存部分内容的拷贝，它应当与主存内容保持一致。而当与主存内容保持一致。而CPUCPU对对cachecache的写入更改的写入更改了了cachecache的内容。如何与主存内容保持一致，可选的内容。如何与主存内容保持一致，可选用如下三种写操作策略。用如下三种写操作策略。写回法：换出时，对行的修改位进行判断，决定写回法：换出时，对行的修改位进行判断，决定是写回还是舍掉。是写回还是舍掉。全写法：写命中时，全写法：写命中时，Cache与内存一起写与内存一起写写一次法：与写回法一致，但是第一次写一次法：与写回法一致，但是第一次Cache命命中时采用全写法。中时采用全写法。2223 / 25计算机组成原理总
16、结总结 主存与主存与cachecache的地址映射有全相联、直接、组相联的地址映射有全相联、直接、组相联三种方式。其中组相联方式是前二者的折衷方案，三种方式。其中组相联方式是前二者的折衷方案，适度地兼顾了二者的优点又尽量避免其缺点，从适度地兼顾了二者的优点又尽量避免其缺点，从灵活性、命中率、硬件投资来说较为理想，因而灵活性、命中率、硬件投资来说较为理想，因而得到了普遍采用。得到了普遍采用。 当当CacheCache中的位置被占满时，一个新的主存块需要中的位置被占满时，一个新的主存块需要拷贝到拷贝到CacheCache时，就要产生替换。时，就要产生替换。 CPU CPU对对CacheCache的写入改变了的写入改变了CacheCache的内容，为保持与的内容，为保持与主存内容的一致性，需采用回写的策略。主存内容的一致性，需采用回写的策略。2324 / 25计算机组成原理作业题作业题第第3章章 （一周之后上交）（一周之后上交） 1、5、7、9、13、142425 / 25计算机组成原理预预 习习第四章第四章 指令系统指令系统25
