操作系统是管理计算机硬件和软件资源的计算机程序,管理配置内存、决定资源供需顺序、控制输入输出设备等。操作系统提供让用户和系统交互的操作界面。操作系统的种类是多种多样的,不局限于计算机,从手机到超级计算机,操作系统可简单也可复杂,在不同的设备上,操作系统可向用户呈现多种操作。因为我们不可能直接操作计算机硬件,而且设备种类繁多,需要一个统一的界面,因此有了操作系统,操作系统的简易性使得更多人能使用计算机。常见的操作系统有:Windows、Linux、MacOS、Android等,总结一句话就是:操作系统是管理硬件、提供用户交互的软件系统。
为什么需要进程呢?在没有配置OS(操作系统)之前,资源属于当前运行的程序,配置OS之后,引入多道程序设计的概念,可以合理的隔离资源、运行环境、提升资源利用率。进程是系统进行资源分配和调度的基本单位,进程作为程序独立运行的的载体保障程序正常运行,进程的存在使得操作系统资源的利用率大幅提升。
主存中得进程形态
由此可知,主存中的进程形态主要包括进程标识符,处理机状态,进程调度信息,进程控制信息等。其中进程控制块(PCB)是用于描述和控制进程运行的通用数据结构,记录进程当前状态和控制进程进行运行的全部信息,PCB使得进程成为能够独立运行的基本单位。PCB是操作系统进行调度经常会被读取的信息,而且是常驻内存的,存放在系统专门开辟的PCB区域内。
之前说过进程是操作系统进行资源分配和调度的基本单位,而线程是操作系统进行运行调度的最小单位,线程包含在进程之中,是进程中实际运行的工作单位,一个进程可以并发多个线程,每个线程执行不同任务。
进程 | 线程 | |
---|---|---|
资源 | 资源分配的基本单位 | 不拥有资源 |
调度 | 独立调度的基本单位 | 独立调度最小单位 |
系统开销 | 进程系统开销大 | 线程系统开销小 |
通信 | 进程IPC | 读写同一进程数据通信 |
一个进程可以有多个线程,一个进程中的线程共享资源,计算机对进程的调度,实际上是对进程中的线程进行调度
为什么需要进程间的同步呢?先让我们来看一个经典的问题:生产者-消费者问题
生产者-消费者问题:有一群生产者进程在生产产品,并将这些产品提供给消费者进程进行消费,生产者进程和消费者进程可以并发执行,在两者之间设置了一个具有n可缓冲区的缓冲池,生产者进程需要将所生产的产品放到一个缓冲区中,消费者进程可以从缓冲区取走产品消费
由上图我们可以看出,单从生产者程序或消费者程序去看是没问题的,但两者并发执行时就可能会出现差错。如下图:
这里的缓冲区就相当于临界资源。
再来看一个哲学家进餐问题:
有五个哲学家,他们的生活方式时是交替的进行思考和进餐,哲学家们共同使用一张圆桌子,分别坐在周围的五张椅子上,在圆桌上有五个碗和五支筷子。平时哲学家们只进行思考,饥饿时则试图取靠近他们的左、右两只筷子,只有两支筷子都被他拿到的时候才能进餐,进餐完毕后,放下左右筷子继续思考。
出现上图中的问题是什么呢?其根源问题是:彼此之间没有相互通信,如果“生产者通知消费者我已经完成了一件生产”,“哲学家向旁边哲学家说我要进餐了”,就不会出现上图中的问题了,也就是需要进程间的同步。
什么是进程同步呢?当对竞争资源在多个进程间进行使用次序的协调,使得并发执行的多个进程之间可以有效使用资源和相互合作。这里的竞争资源也就是上图中的临界资源,什么是临界资源?临界资源指的是一些虽作为共享资源,却又无法同时被多个线程共同访问的共享资源。当有进程在使用临界资源时,其他进程必须依据操作系统的同步机制,等待占用进程释放该共享资源,才可以重新竞争使用共享资源。
进程同步的原则:
进程间同步的常用方法:如消息队列,共享存储,信号量。当多个线程并发使用进程资源时,进程内的多线程也需要,因为进程中的资源时进程中线程的共享资源。线程同步的方法有:互斥量、读写锁、自旋锁、条件变量等,这些方法是如何保证线程同步的呢?
同步方法 | 描述 |
---|---|
互斥锁 | 最简单的一种线程同步方法,会阻塞线程 |
自旋锁 | 避免切换的一种线程同步方法,属于“忙等待” |
读写锁 | 为“读多写少”的资源设计的线程同步方法,可以显著提高性能 |
条件变量 | 相对复杂的一种线程同步方法,有更灵活的使用场景 |
进程同步之共享内存
在某种程度上,多进程是是共同使用物理内存的,由于操作系统的进程管理,进程间的内存空间是独立的,进程默认是不能访问进程空间之外的内存空间的
共享内存就可以打破这个限制,因为有这个共享内存,不同进程就可以通过页表映射到同一个共享内存去,这个共享内存既可以被进程1使用,也可以被进程2使用。
共享存储允许不相关的进程访问同一片物理内存,共享内存是两个进程之间共享和传递数据的最快方式,共享内存未提供同步机制,需要借助其他机制访问。通过共享内存同步的过程就是:申请共享内存->连接到进程空间->使用共享内存->脱离进程空间并且删除。共享内存是高性能后台开发中最常用的同步方式。
进程同步之Unix域套接字
域套接字是一种高级的进程间通信的方法,Unix域套接字可以用于同一台机器进程间通信。其运行过程是创建套接字->绑定(bind)套接字->监听(listen)套接字->接收&处理信息。域套接字提供了简单可靠的进程通信同步服务,只能在单机使用,不能跨机器使用。
进程类型:
ID为0的进程是idle进程,是系统创建的第一个进程,ID为1的进程init进程,是0号进程的子进程,完成系统初始化,Init进程是所有用户进程的祖先进程。
Linux中进程的状态如下:
状态符号 | 状态说明 |
---|---|
R | (TASK_RUNNING),进程正处于运行状态 |
S | (TASK_INTERRUPTIBLE),进程正处于睡眠状态 |
D | (TASK_UNINTERRUPTIBLE),进程正处于IO等待的睡眠状态 |
T | (TASK_STOPPED),进程正处于暂停状态 |
Z | (TASK_DEAD or EXIT_ZOMBIE),进程正处于退出状态,或僵尸进程 |
进程调度是指计算机通过决策,决定哪个就绪进程可以获得CPU使用权。通俗来说就是保留旧进程的运行信息,请出旧进程(收拾包袱),选择新进程,准备运行环境并分配CPU(新驻进)。那么是如何进行进程的调度的呢?
进程的调度方式分为抢占式调度和非抢占式调度。非抢占式调度是指处理器一旦分配给某个进程,就让该进程一直使用下去,调度程序不以任何原因抢占正在被使用的处理器,直到进程完成工作,或因为IO阻塞才会让出处理器;抢占式调度是指允许调度程序以一定的策略,暂停当前运行的进程,保存好进程的上下文信息,分配处理器给新进程。
抢占式调度 | 非抢占式调度 | |
---|---|---|
系统开销 | 频繁切换,开销大 | 切换次数少,开销小 |
公平性 | 相对公平 | 不公平 |
应用 | 通用系统 | 专用系统 |
进程调度算法
死锁是指两个或两个以上的进程在执行过程中,由于竞争资源或者由于彼此通信而造成的一种阻塞现象,若无外力作用,他们都将无法推进下去。此时称系统处于死锁状态或系统产生了死锁,这些永远在互相等待的进程称为死锁进程。
死锁的产生
根据还需要分配的资源表,对比可分配资源表,先给能够满足贷款的用户,给用户贷款,即图中的P2,P2使用完资源后,需要及时归还资源
早期计算机编程并不需要过多的存储管理,随着计算机和程序越来越复杂,存储管理成为必要。
内存分配的过程
内存回收的过程
情况一:不需要新建空闲链表节点,只需要把空闲区1的容量增大为空闲区即可;情况二:将回收区与空闲区合并,新的空闲区使用回收区的地址;情况三:将空闲区1、空闲区2和回收区合并,新的空闲区使用空闲区1的地址;情况四:为回收区创建新的空闲节点,插入到相应的空闲区链表中去。
由于每个进程都有自己独立的进程空间,那操作系统是如何管理进程的空间呢?
现代计算机系统中,可以支持非常大的逻辑地址空间( 2 32 2^{32} 232~ 2 64 2^{64} 264),这样,页表就变得非常大,要占用非常大的内存空间,如具有32位逻辑地址空间的分页系统,规定页面大小为4KB,则在每个进程页表中的页表项可达1M(32位系统进程的寻址空间为4G,4G/4KB=1M)个,如果每个页表项占用1Byte,故每个进程仅仅页表就要占用1M的内存空间。
段式存储和页式存储都离散地管理了进程的逻辑空间。页是物理单位,段是逻辑单位,分页是为了合理利用空间,分段是为了满足客户需求;页大小由硬件空间,段长度可动态变化;页表信息是一维的,段表信息是二维的。
思考:一个游戏十几个G,物理内存只有4G,那这个游戏是如何运行起来的呢?
有些进程实际需要的内存很大,超过物理内存的容量,多道程序设计,使得每个进程可用物理内存更加稀缺,不可能无限增加物理内存,物理内存总有不够的时候,这个时候就需要虚拟内存了。虚拟内存是操作系统内存管理的关键技术,使得多道程序运行和大程序运行成为现实,把程序使用内存划分,将部分暂时不使用的内存放置在辅存。
程序的局部性原理:局部原理是指CPU访问存储器时,无论是存取指令还是存取数据,所访问的存储单元都趋于集中在一个较小的连续区域中。
虚拟内存的置换算法:和我在《计算机组成原理》这篇博客中的高速缓存的置换策略差不多,这里就不详细介绍了。
高速缓存的替换策略发生在Cache-主存层次,只要是为了解决速度问题;虚拟内存的替换策略发生在主存-辅存层次,主要是为了解决容量问题。
页内碎片:内部碎片是已经被分配出去(能明确指出属于哪个进程)的内存空间大于请求所需的内存空间,不能被利用的内存空间就是内部碎片。
页外碎片:外部碎片是指还没有被分配出去(不属于任何进程),但是由于大小而无法被分配给申请内存空间的新进程的内存空闲块。
Buddy是伙伴的意思,这里的”伙伴“指的是内存的”伙伴“,一片连续内存的”伙伴“是相邻的另一片大小一样的连续内存
Buddy内存管理算法执行过程:创建一系列空闲块链表,每一种都是2的幂 --> 现在需要分配100kb内存 --> 回收刚才分配的内存
交换空间(Swap)是磁盘的一个分区,Linux物理内存满时,会把一些内存交换至Swap空间,Swap空间是初始化系统时配置的。
冷启动内存依赖:对于一些大型的应用程序,在启动的过程中需要使用大量的内存,但是这些内存很大一部分只是在启动的时候使用一下,在运行的时候很少使用到这部分内存,因此有了这个交换空间,系统就可以将这个部分不怎么使用的内存数据保存在SWAP空间中,从而释放跟多的物理内存,提供给这个系统使用。
系统睡眠依赖: 当Linux系统需要睡眠的时候,它就会把系统中的所有数据都保存在swap空间内,等下次这个系统需要启动的时候,才把这些数据重新加载到内存中里面,这样就可以加快系统的启动速度。
大进程空间依赖:有些进程确实需要使用大量的内存空间,但是物理内存不够使用,因此需要把这些进程需要使用的内存暂时保存到交换空间中,使得这个大的进程也可以运行起来
Swap空间和虚拟内存的对比:
– | Swap空间 | 虚拟内存 |
---|---|---|
存储位置 | Swap空间存在于磁盘 | 虚拟内存存在于磁盘 |
置换层次 | Swap空间与主存发生置换 | 虚拟内存与主存发生置换 |
所属概念 | Swap空间是操作系统概念 | 虚拟内存是进程概念 |
解决的问题 | Swap空间解决系统物理内存不足问题 | 虚拟内存解决进程物理内存不足的问题 |
任何文件或目录都只有唯一路径。文件常见的描述信息有:文件标识符、文件类型、文件权限、文件物理地址、文件长度、文件连接计数、文件存取时间、索引节点编号、文件状态、访问计数、链接指针等。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-RsqrDmJ2-1594277434733)(https://img2020.cnblogs.com/blog/1975191/202005/1975191-20200530113207431-390099053.png)]
目录 | 描述 |
---|---|
/bin | 存放二进制可执行文件(ls,cat,mkdir),常用的命令都在该目录下 |
/etc | 存放系统管理和配置文件 |
/home | 存放所有用户文件的根目录,使用户目录的基点,比如用户user的主目录就是/home/user |
/usr | 用户存放系统应用程序,比较重要的目录/usr/local本地系统管理员软件安装目录 |
/opt | 额外安装的可选应用程序包所放置的位置 |
/proc | 虚拟文件系统目录,是系统内存的映射,可直接访问这个目录来获取系统信息 |
/root | 系统管理员的主目录 |
/sbin | 存放二进制可执行文件,只有root才能当问 |
/dev | 用于存放设备文件 |
/mnt | 系统管理员安装临时文件系统的安装点,系统提供这个目录是让用户临时挂载其他的文件系统 |
/boot | 存放用于系统引导时使用的各种文件 |
/lib | 存放跟文件系统种的程序运行所需要的共享库及内核模块 |
/var | 用于存放运行时需要改变数据得文件 |
创建文件:touch file 修改文件:vim file 查看文件:cat file 删除文件:rm file 创建文件夹:mkdir dir 删除文件夹:rm dir/ 该方式会提示,不能删除文件夹 递归删除文件夹:rm -r dir/ 进入文件后,通过ls -al 命令可以查看该文件的文件类型,即第一个字符
Linux的文件类型有:套接字(s)、普通文件(-)、目录文件(d)、符号链接(b、c)、设备文件、FIFO§
文件系统概览
EXT文件系统
Inode Table是存放文件Inode的地方,每一个文件(目录)都有一个Inode,是每一个文件(目录)的索引节点。文件名不是存放在Inode节点上的,而是存放在目录的Inode节点上,列出目录文件的时候无需加载文件的Inode。Inode bitmap即Inode的位示图,记录已分配的Inode和未分配的Inode。Data block是存放文件内容的地方,每个block都有唯一的编号,文件的block记录在文件的Inode上。Block bitmap功能与Inode bitmap类似,记录Data block的使用情况。superblock是记录整个文件系统相关信息的地方,包括block和Inode的使用情况,以及时间、控制信息等。
命令 df -T:查看该系统所挂载的磁盘信息,查看文件系统的Inode信息:dumpe2fs 指定某个一设备,如 dumpe2fs /dev/sda2,使用超级管理员权限查看:sudo dumpe2fs /dev/sda2,查看文件的具体信息:stat dumpe2fs.log,文件重命名: mv dumpe2fs.log dumpe2fs.bak.log。Inode编号才是文件的唯一标记,文件名不是文件的唯一标记。
对CPU而言,凡是对CPU进行数据输入的都是输入设备;对CPU而言,凡是CPU进行数据输出的都是输出设备
由于CPU与IO设备的速率不匹配,所以需要IO设备缓冲区,这样可以减少CPU处理IO请求的频率,提高CPU与IO设备之间的并行性。专用缓冲区只适用于特定的IO进程,当这样的IO进程比较多时,对内存的消耗也很大,操作系统划出可供多个进程使用的公共缓冲区,称之为缓冲池。
SPOOLing技术是关于慢速字符设备如何与计算机主机交换信息的一种技术,利用高速共享设备将低速的独享设备模拟为高速的共享设备。逻辑上,系统为每一个用户都分配了一台独立的高速共享设备。SPOOling技术把同步调用低速设备改为异步调用。SPOOLing技术在输入、输出之间增加了排队转储环节(输入井、输出井),SPOOLing技术负责输入(出)井与低速设备之间的调度,逻辑上,进程直接与高速设备交互,减少了进程的等待时间。