Python实现多进程(一)

一. 多任务编程

多任务编程指利用计算机的多核特点,同时执行多个任务。通过充分地利用计算机资源,来提高程序的运行效率。如多线程和多进程编程。在开始学习多任务编程前,区分如下几个概念非常重要

1.1 并行和并发

当多个计算机核心同时处理多个任务时,多个任务之间是并行关系,因此并行数量取决于计算机核心数。计算机同时处理多个任务,内核在多个任务之间不断切换,达到好像在同时处理的运行效果,此时多个任务实际为并发关系,如IO多路复用。

举一个生活中的列子:当只有一个咖啡机时,两队人排队交替使用一个咖啡机,这是并发;而当我们有2台咖啡机时,两队人员就能同时使用各自的咖啡机,互补干扰。那么回到计算机中:

  • 并行(parallel):指在同一时刻,有多条指令在多个处理器上同时执行。所以无论从微观还是从宏观来看,二者都是一起执行的。
  • 并发(concurrency):指在同一时刻只能有一条指令执行,但多个进程指令被快速的轮换执行,使得在宏观上具有多个进程同时执行的效果,但在微观上并不是同时执行的,只是把时间分成若干段,使多个进程快速交替的执行。

1.2 进程和程序

进程:程序在计算机中运行一次的过程,是一个动态的过程描述,占有CPU内存等计算机资源,具有一定的生命周期。同一个程序的不同执行过程,分配的计算机资源不同,属于不同的进程。

一个进程的创建流程如下:

  • 用户空间运行一个程序,发起进程创建
  • 操作系统接受用户请求,开启进程创建
  • 操作系统分配系统资源,确认进程状态
  • 将创建好的进程提供给应用层使用

程序:静态的可执行文件,占有磁盘,不占有计算机的运行资源;磁盘不属于计算机资源。

二. 进程

2.1 相关概念

CPU时间片:如果一个进程占有计算机核心,我们称为该进程在CPU的时间片上。多个任务实际对CPU会进行争夺,一般由操作系统分配CPU时间片。

进程控制块PCB(Processing Control Block):在操作系统中,进程创建后会自动产生一个空间存放进程信息,称为进程控制块。进程信息包含进程PID、进程占有的内存位置、创建时间、用户、状态等。

进程PID:进程在操作系统中的唯一编号,是一个大于0的整数,由系统自动分配。

进程的特征:进程是操作系统分配“计算机资源”的最小单位。每个进程都有自己单独的虚拟内存空间,进程间的执行相互独立,互不影响。

ps -aux 查看进程信息

STAT 描述
D 等待态,且为不可中断等待
S 等待态,为可中断等待
T 等待态,为暂停状态
R 就绪态,运行态
Z 僵尸态 ,进程已经结束,但仍存在一些问题解决
+ 前台进程
< 高优先级
N 低优先级
I 有进程链接
s 会话组组长

进程的状态

三态:

  • 就绪:进程具备执行条件,等待系统分配CPU
  • 执行:进程占有CPU时间片,处于运行状态
  • 等待:进程暂时不具备运行条件,需要阻塞等待

五态(增加新建态和终止态):

  • 新建:创建一个新的进程,获取资源的过程
  • 终止:进程结束,释放资源的过程
  • 进程优先级:优先级决定了一个进程的执行权限和占有资源的优先程度
  • top命令 : 动态地查看进程优先级,其中NI的取值范围为-20~19,其中-20优先级最高
  • nice : 运行程序时指定优先级;
sudo nice -9 ./while.py  # 指定以-9优先级来运行程序

父子进程:除了初始化进程,每个进程都有一个父进程,也可能有0个或者多个子进程。

  • pstree:查看进程树
  • ps -ajx:查看父进程PID

进程的相关函数

  • os.getpid():获取当前进程的PID
  • os.getppid():获取父进程的PID
  • os._exit(status):退出进程,使用status整数标识进程的退出状态,并通过人为赋予相应的含义
  • sys.exit([status]):默认为0,如果是整数,则表示退出状态;如果是字符串,则表示在退出时打印内容

孤儿进程:父进程先于子进程退出,此时子进程就会成为孤儿进程。孤儿进程会被系统指定的进程收养,即系统进程会成为该孤儿进程新的父进程,处理孤儿进程的退出状态。因此孤儿进程一定不会成为僵尸进程。

僵尸进程:子进程先于父进程退出,并且父进程没有处理子进程退出状态,此时子进程成为僵尸进程。僵尸进程已经结束,但是会滞留部分PCB信息在内存,大量的僵尸会消耗系统资源,应该尽量避免僵尸进程的产生。

三. 进程的创建

3.1 使用os.fork函数

  • os.fork()创建子进程失败时返回负数,成功时返回一个非负数;
  • 在子进程中,返回值为0;在父进程中,返回值为子进程的PID;
  • 子进程从pid = os.fork()语句之后开始执行,但子进程会复制父进程的全部代码段。
import os
import time
 
a = 1
print(time.ctime(), '程序开始执行:')
 
pid = os.fork()  # 创建子进程
if pid < 0:
    print('子进程创建失败!')
elif pid == 0:
    # 子进程
    time.sleep(2)
    print('子进程:a=', a)
    a = 1000
    print('在子进程中将a的值设为1000')
else:
    print('子进程PID:', pid)
    time.sleep(4)
    print('父进程:a=',a)  # 空间独立,互不影响
 
print(time.ctime(), '程序执行完毕!')

运行结果:

3.2 如何避免僵尸进程的产生

当子进程先于父进程退出,如果父进程没有处理子进程退出状态,此时子进程成为僵尸进程。因为为了避免产生僵尸,首先想到的即让“父进程先于子进程退出”,具体实现如下:

  • 父进程创建子进程等待子进程退出;
  • 子进程创建二级子进程,然后立马退出;
  • 二级子进程成为孤儿,处理具体事宜;
import os
from time import sleep, ctime
 
def func1():
    sleep(3)
    print(ctime(), 'fun1()')
 
def func2():
    sleep(4)
    print(ctime(), 'fun2()')
 
pid = os.fork()
 
if pid < 0:
    print('create process failed!')
elif pid == 0:
    # 创建二级子进程
    pid0 = os.fork()
    if pid0 < 0:
        print('create 2th process failed!')
    elif pid0 == 0:
        func2()
        print(ctime(), '二级子进程退出!')
    else:
        # 一级子进程在创建二级子进程后立刻退出,不会造成父进程的阻塞
        print(ctime(), '一级子进程退出')
        os._exit(0)
else:
    print(ctime(), '父进程阻塞等待回收一级子进程')
    os.wait()
    func1()
    print(ctime(), '父进程退出')

运行结果:

避免僵尸的第二种方法即在父进程中阻塞等待处理子进程的退出,使用我们上例中用到的os.wait即可。os.wait()返回值为子进程PID以及子进程的退出状态(默认为0)。

import os
import sys
from time import sleep, ctime
 
pid = os.fork()
 
if pid < 0:
    print("Create process failed!")
elif pid == 0:
    sleep(3)
    print(ctime(), "子进程{}即将退出".format(os.getpid()))
    sys.exit(2)
else:
    print(ctime(), '父进程阻塞等待子进程{}的退出'.format(pid))
    # 阻塞等待子进程退出
    pid,status = os.wait()
    print(ctime(), '父进程已处理子进程{}的退出'.format(pid))
    # 退出状态2 * 256,便于系统的识别
    print(pid,status)
    # 打印sys.exit(2)设置的退出状态
    print(os.WEXITSTATUS(status))

运行结果:

和os.wait方法类似,os模块还提供了一个os.waitpid(pid,option)方法,pid可以指定处理的子进程PID,option则可以指定阻塞和非阻塞。具体如下:

  • pid,status = os.waitpid(pid,option) 处理子进程的退出
  • pid -1:任意子进程退出;>0:指定PID号的子进程退出;
  • option 0:阻塞等待;WNOHANG:非阻塞
  • pid, status = waitpid(-1,0) 等价于pid, status = wait()
import os
import sys
from time import sleep
 
pid = os.fork()
 
if pid < 0:
    print("Create process failed!")
elif pid == 0:
    sleep(3)
    print("子进程{}即将退出".format(os.getpid()))
    sys.exit(2)
else:
    # 等待子进程退出
    while True:
        sleep(1)
        #-1表示任意子进程 os.WNOHANG表示非阻塞
        pid,status = os.waitpid(-1,os.WNOHANG) 
        #status即子进程的退出状态sys.exit(2) * 256
        print(pid,status)
        if os.WEXITSTATUS(status):
            print("主进程已处理{}进程的退出".format(pid))
            break
        print("Do something others!")

运行结果:

除了使用上述的os.wait / os.waitpid在主进程中处理子进程的退出状态外,更常用的一种方式是利用系统内核,异步地处理子进程退出问题。实现过程大致如下:

  • 在多任务程序初始化时,(注意,需要导入signal标准库模块)声明signal.signal(signal.SIGCHLD, signal.SIG_IGN);
  • 内核发现子进程退出时,会给主进程发送一个SIGCHLD信号,signal的第二个参数是主进程对子进程的处理方式;
  • SIG_IGN即主进程忽略子进程的退出,并交由系统处理回收子进程的退出。(此处不再详细举例,后续介绍进程间通信方式时,再对信号做详细介绍)

3.2 使用multiprocessing模块

multiprocessing模块中,需要将要做的事情封装为函数,使用multiprocessing中提供的Process类,在实例化时传入target函数,创建进程对象。p.start启动进程后,会自动执行相关联函数,并在事件完成后回收进程。此过程用到的主要类、方法如下:

类/方法 参数
Process(name,target,*args,**kwargs) 创建进程对象: name:给创建的进程对象起一个名字,default:Process-n;target:绑定的事件函数;args:给“target”函数'按照位置传参;kwargs:给“target”函数'按照关键字传参;
P.start() 启动进程,并自动执行进程函数。
P.join([timeout]) 阻塞等待回收响应的进程。timeout可选参数:超时时间
'''通常使用multiprocessing创建进程,父进程只用作进程的创建和回收,不做其他工作。'''
import os, time
import multiprocessing as mp
 
a = 1
 
def func():
    '''修改子进程空间的内容,不会对父进程产生影响'''
    global a
    a = 100
    print('在子进程中a =',a)
    print('子进程{}已完成func的执行,即将返回主进程{}'.format(os.getpid(), os.getppid()))
 
p = mp.Process(target=func)  # 创建进程对象
p.start()  # 启动进程
print('在父进程{}中创建了子进程{}'.format(os.getpid(), p.pid))
time.sleep(5)  # 延迟5s,使子进程修改了变量a绑定的值
print('父进程中:a = ',a)
 
p.join()  # 回收子进程,有效防止了僵尸进程的产生

运行结果:

multiprocessing创建进程总结如下:

multiprocessing创建进程是原来进程的子进程,创建后父子进程各自执行互不影响。子进程同样是复制父进程的空间,子进程对内容的修改,不会影响父进程空间。join回收子进程,会有效阻止僵尸进程产生。

进程对象的属性:

  • p.name:进程名称,默认为Process-1,可自定义名称;
  • p.pid:创建进程的PID
  • p.daemon:默认值为False,父进程退出,不会影响子进程的运行;设置为True时,父进程退出,子进程也将退出;daemon 的设置必须在start前。如果设置daemon为True,则不再使用join,在子进程退出前,会自动做处理;
  • p.is_alive() 判断进程生命周期状态,返回True/False

通常使用multiprocessing创建进程,父进程只用作进程的创建和回收,不做其他工作。

你可能感兴趣的:(Python实现多进程(一))