属实是极限冲刺了,距离考研还有10天,我还有俩本书没学完(乐),昨天一下午一晚上学完进程,今天再接再厉,直接学完储存和文件系统
IO部分参见我的计组笔记,非常详细
我不喜欢重复造轮子,这一章我会比较简略,尽量写高层次的思想,具体内容我的另一篇笔记里面记录的很详细,如果基础不是很好,可以对照看。
操作系统笔记——储存器管理、文件管理、设备管理
关于物理地址:
重定位寄存器
辅助地址偏移,在程序真正运行访存的时候才形成物理地址
(才发现我们OS老师上课用的那张图是从王道这里来的,我就说风格怎么不一样)
我们前面讨论的是如何形成物理地址,其实形成如何把多个.o文件的逻辑地址统一起来,也是一个需要注意的点,这个技术就是链接
联系前面的物理地址生成,很显然,绝对装入方法只能搭配静态链接使用,而动态链接只能和重定位方法结合使用
视角抬高,内存管理除了负责部分地址转换以外,还有很多功能。
内存保护的两种思路:
覆盖,就是让互斥的程序段公用一片内存,有两种可能:
这个方法的缺点就是需要人为指定覆盖结构(计算机不会分析),不方便。
交换就是把暂时不用的程序换出,腾出空间给其他程序运行。
结合第二章,交换其实就对应着中级调度
因此换出的程序首选被挂起的程序,其次就是低优先级的,总之尽可能减小换出的副作用。
交换区要频繁读写,因此单独划出。
为了加快读写,采用连续分配的方式管理磁盘(IO更快)
所谓连续分配,就是程序要放就是一整段全放进去,不可以拆开。
说白了,单一连续分配
就是只有一个应用分区
因此没有外部碎片,只有内部碎片
下面的固定分区分配
,其实就是把这一个区,拆分成多个固定的区,只分配,不改变大小。
既然思想一致,只是分区数量的差异,那么碎片的逻辑也就一样了。
多个分区还要进行管理,需要一个固定分区表,这个表能修改的只有分配标记
如果最大的那个分区都满足不了当前程序,就上覆盖技术。
动态分区就是固定分区加强版,除了可以修改标记以外,还可以修改区域的大小。
数据结构有两种:
分配和回收的过程中,要涉及到分区的拆分和回收合并:
动态分区的思路,可以保证新分的区是满的,所以没有内部碎片
代价就是会产生外部碎片,内存中有一些地方因为太小是怎么也用不到的
解决方法也很直接,就是把分区挪一下,挤一挤,即紧凑技术。
很明显,程序在这个过程中浮动了,因此只能搭配 动态运行时装入(动态重定位)技术使用。
页式管理其实是分区的进化版,将分区粒度变得非常细,同时用页表建立索引,因此可以分散储存,大大提高空间利用率。
页表负责索引功能,将逻辑页号转为物理页号,这里区分一下名词:
因为逻辑页是连续递增的,因此直接隐含在偏移地址里了,不在页表项里,而页表项的长度一定是要对齐的(k字节)
如何转换呢?
乘系数
才是页起始地址学过汇编的话,这个过程非常熟悉。
因为页表位置可以浮动,我们干脆就用一个页表寄存器储存地址(PTR)
考虑到安全性检验,还要再存页表长度,这两个是分成两节存在一个寄存器里的
需要注意,既然是寄存器,那其实也是程序上下文,所以随着进程切换,肯定也会有装入和保存的过程
这个转换流程,用字母描述:
页表长度
,所以是虚高1位的,因此只要P等于
M,就算越界前面说到页表项大小要对齐到k字节,实际上不仅仅如此。
3B情况下,会产生页框内碎片,那么我如果要访问这个碎片地址上的页表项呢?那只能+1偏移,这样做很麻烦,而且容易出bug
所以干脆进行二次对齐,对齐到能够被页框大小整除,所以一般是用4字节,做题的时候要考虑这两种对齐。
参考cache原理,TLB其实就是页表的cache,材料也都是SRAM,只不过TLB的等级还要在cache之上,是最紧贴CPU的
TLB是一种cache,更具体的说,应该是全相联方式储存的模式。
因此快表不能像页表那样,把页号隐藏在地址里,而是多加一个字段,且每次要遍历快表。
查找过程有两种:
进而衍生出不同耗时·的计算结果
TLB和cache的区别:
当一个页表存不下页表项,就需要用二级。
一般来说,只有二级页表,实际上可以多层
区分一下名称:
转换过程无非就是前N次确定最终页号,最后1次进行访存,即N+1次
页表具体分几级,要根据地址长度来定,先抛去页内偏移,之后看看能拆几节页号地址。
首先要明确,段式管理和页式管理是并列的,都是非连续的分配。
段式管理很像动态分区,但领域不一样:
段表和页式管理类似,每个段表项都是等长的,段号都是隐含的(但是段不等长)
寻址过程也很类似,都是两次+越界检测
越界也是同理,这个段长是具体长度,虚高,所以只要满足W=C就代表越界了
从设计理念上来说,段页还是不同的,如下:
由设计理念来引申,共享与保护:
定不定长也是一个区分点:
终于到了段页式管理了,这才是版本真神。
段页式管理是页+段的综合,底层用页,高层用段。
另一种理解就是把二级页表爆改成段表了
段页式是两级的,所以访存次数是2+1=3
要进行两次越界判断,由此可得,其实二级页表也得进行两次越界判断。
注意,这个TLB是把段号和页号一起作为一个tag的,而不是弄两个TLB
虚拟内存的特征:
因为虚拟内存是把进程的内存空间拆分了,所以必须使用非连续性内存分配技术。
在此基础上,增添两个功能:
后面以页举例,更复杂的也是类似逻辑。
请求分页逻辑可以参考cache来,其实是一个思想
但是具体还是不太一样:cache仅仅是缓存,管理能力很弱,而虚拟内存的管理能力很强,除了页框内容的缓存外,还专门有页表来管理页框,我们研究的其实是页表的管理。
请求页表结构:
如果目标页的有效位=0,说明在外存,发生缺页中断。
注意,缺页中断并不是外中断,而是广义的中断,实际上是异常。
之后研究一下请求分页管理中的细节,其实和基本分页的区别无非就是两点:
不过不得不说,这个过程真的挺复杂的,后面做题继续细化吧,你且知道相关联的三个部分就可以:外存,页表项(以及对应的页框),TLB
这几个方法在我另一篇笔记里已经有详细的描述了,这里进行细化。
注意,页面置换次数≠缺页次数,缺页是要更加广泛的,注意题目问的是哪个。
首先是OPT
具体做的时候,就是从发生缺页的位置开始,查看后面要调用的页,在这里面找我们当前物理块里装的页,排在最后一个的就是要置换出去的。
然后是FIFO
和LRU
,具体过程很简单:
再说时钟置换算法CLOCK(NRU)
思想很简单:
极限情况是进行1轮+1次扫描,也就是两轮扫描,这个方法兼顾了效率和效果。
改进NRU还考虑到了写回的IO损耗,尽可能避免IO(替换修改位=0的页面),同时还要维持原本NRU的原则,于是根据(访问位,修改位),可以分成4个优先级:
具体如何去扫描呢?分4轮:
改进NRU非常的完美:
虽然改进NRU最多进行4轮考察,但是这点内存中的消耗和降低IO损耗带来的收益相比,微不足道
之后介绍三种分配+置换的搭配:
不直接
和外存进行交换,而是直接用空闲的,或者从其他进程抢一个(未锁定)的页框过来再论从何处调页:
传统文件读写,要进行内存文件的多级索引,比较麻烦,如果你不是一次性读入,那么每读一个块都要多级索引一次。
内存映射文件直接把文件索引一次性读到内存里,分出一些页表项直接把文件地址记录进去
出于效率考虑,这里只是分配了页表项,并没有将文件读入,但是后续的读入已经很简单了,不需要多级索引,只需要IO就可以,效率高多了。
修改只需要在内存中,这进一步减少了IO损耗,最后进程关闭文件的时候,才将文件一次性写回,非常方便。
总之,内存映射,既可以减少索引损耗,又可以减少IO损耗
文件映射还有另一个好处,就是便于共享文件。
注意区分页表项和物理页框,实际上读入后的文件是放在物理页框里的,我们说的共享只是让不同进程的页表项指向同一个页框。
文件系统复杂之处在于非常庞杂,需要一个良好的整体观,明确区分各种概念,接下来直接简要的把整个文件系统简单概括一下:
文件这一章整体都比较乱,因为文件系统确实是比较庞大,我在看我以前笔记的时候也同样有此感觉,因此我在这篇笔记里要尽可能让宏观逻辑顺畅。
因为文件系统庞大,所以我会自上而下的写(1,2,3),从逻辑逐渐过渡到物理,最后再拔高统筹(4,5):
目录文件
普通文件
到此为止,你已经可以从上到下,找到一个文件的所有磁盘块了,并且你也知道一个文件的空间从哪来,到哪去了,文件管理最基本的功能已经有了
区分:
文件内部,和文件之间,都需要组织。
文件目录离我们很近,Windows文件夹就是一个文件目录的GUI
文件夹本身就是一个文件,现实中你装文件的袋子肯定也是有实体的,通过文件夹,就可以找到文件夹里面的文件,文件夹里面,可能有文件夹,也可能有文件,这叫嵌套,和你电脑里的逻辑是一样的。
虽然他们都是文件,但是性质不一样:
文件是要给人用的,所以肯定会有一个名字,也就是说文件和文件之间是要有区分的,而内存里的东西就不需要,这就是文件系统和内存的本质区别。
既然有名字,在一个文件夹下就不能重名,因此文件目录结构是一个重要问题。
最开始叫一级目录
,说白了就是整个系统只有一个文件夹(MFD,Master File Directory),很显然,如果文件太多,则需要遍历文件目录,耗时很多
之后升级二级目录
,多出来的一级代表用户(UFD,User FD),此时有一点区分度,但是不太够
多级目录就是我们现在见到的目录结构,层层嵌套
比如上图的路径,要读3次目录,才能找到文件,之后你还得再读文件,所以消耗是读目录+读文件
当然,其灵活性的好处远远大于这点IO损耗
回顾一下B树和B+树,这两者的区别在于B树节点本身就储存着数据,而B+树很精简,索引节点只是索引,叶节点只储存指针。
当时还说了文件系统用B+树,一个重大原因就是其可以在一个磁盘块有限的空间里尽可能塞入多的索引项。
越精简,储存一个文件目录需要的磁盘块就越少,从而减少在遍历索引表时的IO次数。
因此,直接把FCB中文件名字以外的元数据都剥离出去,构成一个索引节点(inode?)
这一章开始讲一个文件如何组织,FCB和文件体两部分要统筹着看。
流式文件和有结构文件的本质区别在于对齐。
类似于数据结构,逻辑结构主要讨论逻辑,不讨论具体实现
这里说的地址,通通指代逻辑地址
,与物理无关
顺序文件对应顺序表,顺序表又可以分为链表和数组。
总结一下:
默认的是顺序文件+顺序分配
前面说了,在顺序文件的前提下,一旦引入可变长记录,就啥也不是了,但是索引表可以完美解决这个问题。
索引表本身是定长的,因此可以随机访问索引表,找到对应项目后,再根据指针找到对应的数据记录
虽然分两次查找速度会慢一点,但是总比从头遍历数据记录好。
数据库的索引原理就是这样,索引的思想就在于,给非随机存取的东西,附加上随机存取的性质
,代价就是多走一层,更占空间
总结:
索引文件有个缺点,索引和数据记录一一对应,也就是说其消耗是比例性的。
如果数据记录本身太小了,那么这个占比就很大,类似于用链表节点存一个字符,浪费率高达8/9
索引顺序文件双管齐下:
如果索引表还是大,那么还可拆分多级,这个时候你就会发现,已经有了B+树的感觉了,唯一细节的地方就在于,这棵树的叶节点指向的是一组数据记录,而不是一个数据记录。
所以查数据也很简单,先逐层查索引,之后再到组内进行顺序查找,把整体切分为组后,顺序存储查找时间太长的缺点就被消除了,而且组内存不定长记录也是没问题的。
总之就是一个完美。
物理结构和逻辑结构无关,物理结构要解决的问题是,给定一片连续的逻辑地址,如何将其分配到物理空间
,并组织起来
如果磁盘块和内存块大小不一样呢?扇区的大小一般为512B,而我们之前学页式管理,一页经常是4KB的,这显然不对劲。
我们姑且不讨论这些区别,我们就默认磁盘块大小=内存块大小,在内外存交换的时候很方便,直接以块为单位,再联系一下cache和内存块的交换,也是这个单位,所以整个数据运行过程都非常流畅。
类似于内存,外存同样采用逻辑地址+物理地址的思想。
顺序文件+连续分配方式,说白了就是串结构,类似数组,因此可以随机(直接)+顺序访问
注意,磁盘和内存不一样,磁盘(特指HDD)本身是无法进行随机读写的,严格来说只能说叫直接读写
,即DAM,介于纯粹顺序和纯粹随机之间,磁盘本身的特性就决定了,再快也快不到哪去。
因此访问分散的磁盘块还是很耗时的,这种顺序分配读起来是最快的。
啥都好,就是不够灵活,扩展性很差,而且会产生大量磁盘碎片(终于知道以前windows上面说的磁盘碎片是啥了),而且紧凑也很费时间,这是致命缺点
链式分配即链表。链表的优缺点,隐式分配都有。
最大的缺点就是只能顺序访问,是纯粹的顺序访问
读一个文件必须从头遍历,这个过程中要反复IO,每个块都要IO一次,消耗非常大
优点在于拓展是很简单的,只需要改一下链域,然后把FCB中的尾磁盘块指针改一下就行。
这里有个问题,为什么不像链表那样用NULL呢?可能是磁盘里面没有NULL这个概念,所以只能用块号限制
相比而言,下面的显式链接就是在内存中的链表,因此是通过NULL机制(-1)来实现的收尾,不需要尾块号
显式链接的区别在于,把磁盘中的连接结构提取到了内存中,以FAT(File Allocation Table)的形式保存,就是数组形式的链表,一个磁盘只需要一个超大的FAT统一管理即可。
虽然还是链表,性能有显著提升,本质区别在于,隐式链接的遍历需要在内存和磁盘之间反复横跳,而显式链接的链表遍历都可以在内存中操作,而内存速度快的很,就算按照链表的方式遍历,速度也比反复IO快多了
也就是说,遍历的方式其实并没有太大变化,只是n次内存操作比n次IO速度快多了,此外还要做一些区分:
显式链接比较优秀,是以前系统常用的方案,但是随着文件越来越多,FAT逐渐变大,负荷就太大了
同时CPU性能之类的也提升了,可以考虑通过若干次IO,多次索引的方式来把压力分摊到IO上了
索引分配的一个目标就是给FAT瘦身,曾经的FAT是所有文件一张,而现在是一个文件一张索引表,然后逐级构成B+树结构(但是并不等同于数据结构学的那个B+树)
类似于页表,属实是万法归宗了,我可以这么说,凡是大规模的数据组织,储存,使用B树或者B+都是很好的方案,内存,外存,不约而同地使用了这种方法。
在这里,磁盘块可以被分成两类:
单级索引非常简单,就是先读索引,然后通过索引把逻辑块号映射为物理块号,再读物理块即可。
如果一个索引块放不下一个文件的索引项,就要扩展,方案如下:
顶级索引节点
比较特殊,是顶级索引表,项目并不多。如果用到的块比较少,那么就只用直接地址,如果要多一些,就要用一级间接索引,从间接索引开始的索引节点,这种索引节点就是填满的,如果再放不下,就启用二级间接。关键词区分:
文件
=xx储存
=逻辑结构分配
=物理结构先区分一下逻辑地址和物理地址,基础要牢固:
从逻辑地址到物理地址的转换,就是文件的物理结构来负责的,与逻辑结构毫无关系。
比如是用xx文件+索引分配方式,那么无论你是什么逻辑结构,你都要通过索引表进行映射,而如果是链式分配,那么就需要给定物理首地址+顺序遍历的方式去映射,说白了这些分配方式都是逻辑到物理的映射方式
进一步辨析,文件/储存≠分配
直观来看,似乎就应该是连续文件配连续分配,链式文件配链式分配,但是其实不是这样的。
无论你逻辑上文件是什么样的,总之都是一片连续的逻辑地址
,思考一下C语言创建文件的过程,你最终都是要write到这个文件里的,无论你用什么逻辑组织,最后你都要调用write函数逻辑上连续地写入文件,这个write函数就决定了逻辑地址一定是连续的。
因为逻辑空间必然连续,所以OS会一视同仁,自行决定分配方式,比如下图,逻辑结构是链式存储,但是物理分配采用的是连续分配。
总之,逻辑结构和物理结构一点关系都没,只不过是思想互相借鉴,并不能对应,不然为啥要分开讲呢?
学到这里,从头盘一下吧,如何从文件系统里查一个文件的一项数据记录呢?
完全跑下来,IO成本=查找目录的成本+读文件的成本
查找目录的成本就是目录级数(斜杠个数)
读文件的成本要根据物理结构而定
前面说的目录结构,文件结构,都是对非空闲块进行管理,还有空闲的部分,在这一章集中讲解
分区可以理解为一个特殊的文件夹
FCB,索引,以及文件体,这些我们都在前面讲过了,属于非空闲部分的管理
接下来讲解一下,如何管理空闲部分(其实类似于内存管理,思路都是类似的)
空闲表,参考内存分区里面的空闲分区表,同样的记录了起始地址+长度
分配和回收都是一模一样的
具体到文件的物理结构来说,这种空闲管理方式比较适合连续分配方式。
两种方式,空闲盘区链,类似于分区里面的空闲区链表,重点都在“区”,而空闲盘块链粒度更细,区分:
队列
两种方式都适用于离散或者连续分配,只是效率不同:
连续分配,或者一次分多个,空闲区块链快,而如果是离散少量,则空闲盘块链快
位示图很经典,这里额外讲了字
注意,这里的字针对的是位示图的一行,如果一行有kbit,那么一个字对应k个磁盘块。
还需要注意的是从0开始还是从1开始,非典型情况可以参考矩阵压缩那一块,思路一模一样。
之所以要引入字,是因为这样便于定位。
分配的时候,要将字号位号转化为盘块号,同时将0置1,回收的时候是逆向过程
略,0.1%的几率考,我就当他0%,主打一个效率
create,创建文件两件事
delete是逆向过程
open,两件事:
索引号
(文件描述符)返回给用户(程序),其实就是一个key,用于快速锁定内存中的这个FCB考虑到文件的读写共享,还需要在系统中维持一张系统打开文件表,并且计数(类似于硬链接的思想)
删除是逆过程,删除的是进程本身的打开文件表项,计数-1,同样类似于硬链接,如果计数为0,则在系统打开文件表里删除对应项
读文件:
写文件类似
树结构的特点在于分支之间隔离。
既然如此,如何通过一个目录,访问另一个目录呢?分为软硬两种链接方法
上图为硬链接
,文件和索引节点一一对应,硬链接直接让当前目录里的FCB指向对应索引节点即可,或者说在两个目录里,存在一样的FCB。
索引节点会维护一个计数器,只有在全部硬链接都失效的时候(count=0),才删除文件体和索引节点。
还有一种软链接
(符号链接)方式,是Windows的方式,即快捷方式.ink文件,link本身就是一个文件,当OS判断其为链接文件时,会读取里面记录的目标文件的路径,用这个路径找到对应文件目录下的文件,而不是直接用FCB指向。
软链接的本身只是快捷方式,指向的文件删了就删了,快捷方式本身不会受到影响,只是没用了罢了。
口令
就是密码,密码本身在文件之中(FCB或者索引节点),因此可以用技术手段去逆向分析破解。
加密
本质上也是把密码放在文件之中,但是加密是把密码“分散”在整个文件之中了,加密后的文件本身就是密码,我们用密码去和加密后的文件比对(解密),就可以得到源文件。比较费事
ACL最基本的形式如上,我们Linux里面用的chmod 777之类的指令,变成二进制其实就是111 111 111
如果每个用户对每个文件都有这么一行,实际上在列方向上是有冗余的,在MySQL里面,采用角色的思路来进行权限控制,下面这个思路也是一样,文件给每个角色(分组)整体分配权限,然后某个用户访问的时候,直接检查其归属于哪些分组即可。
这样,无论用户有多少,一个文件ACL的长度也只有分组的个数。
下图中,组就是用户组
一个文件,可以针对每一个组配置对应的权限。
本节,从最底层一个空磁盘开始,逐步构建文件系统,与内存接轨:
如果没有VFS,不同文件系统的规范完全不同,OS对于外接文件系统的兼容性就非常差。
VFS的宏观功能:
具体到细节上,VFS通过若干思路实现接口的统一化:
函数功能指针
的意义,在于区分不同v节点的文件系统类型,毕竟上层OS下发的函数调用,最终还是要落到具体的系统中的,通过函数功能指针,就可以找到这个文件对应的系统类型的函数接口,进行专属于这个文件系统的操作所谓的挂载,就是把异种文件系统接入宿主机的VFS中,日常中插U盘其实就是挂载,要做三件事:
一般来说,Windows挂载点在磁盘根目录
用过虚拟机的应该都有过挂载的经历,比如说你是一个Linux的虚拟机,但是你想要将主系统(Windows)的文件夹共享到这个Linux中,需要执行一个挂载命令才可以在hgfs文件夹里面看到共享文件夹,这其实也是一个挂载的过程。