仔细说来,multiprocess不是一个模块而是python中一个操作、管理进程的包。 之所以叫multi是取自multiple的多功能的意思,在这个包中几乎包含了和进程有关的所有子模块。由于提供的子模块非常多,为了方便大家归类记忆,我将这部分大致分为四个部分:创建进程部分,进程同步部分,进程池部分,进程之间数据共享。
Process模块是一个创建进程的模块,借助这个模块,就可以完成进程的创建,其本质是一个类,实例化获得进程对象
需要使用关键字的方式来指定参数
args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号
group参数未使用,值始终为None
target表示调用对象,即子进程要执行的任务
args表示调用对象的位置参数元组,args=(1,2,‘frank’,)
kwargs表示调用对象的字典,kwargs={‘name’:‘frank’,‘age’:18}
name为子进程的名称,如果不给会自动生成一个名字
p.start()
:启动进程,并调用该子进程中的p.run( )p.run()
:进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法 注意:虽然 start( )方法是调用 run()方法执行,但是如果直接调用 run()方法是不会开启新的进程执行的,而是在主进程中执行
p.terminate()
:强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁 terminate()
并不会立即结束掉进程,而是通知操作系统去结束该进程,所以进程可能还会存活一会
p.is_alive()
:如果p仍然运行,返回Truep.join( [timeout] )
:主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程 是主线程处于等的状态,而p是处于运行的状态timeout
是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程
启动多个子进程,等多个子进程执行完在执行主进程
from multiprocessing import Process
import time
def task(i):
time.sleep(1)
print(f"子进程--task{i}")
if __name__ == '__main__':
ctime = time.time()
for i in range(5):
p = Process(target=task,args=(i,))
p.start()
p.join()
print('主进程')
print(time.time()-ctime) # 5.089050769805908
这种写法的问题在于,每个子进程执行完了,才会执行下一个子进程,并不是多个子进程同时执行!
改进
from multiprocessing import Process
import time
def task(i):
time.sleep(1)
print(f"子进程--task{i}")
if __name__ == '__main__':
ctime = time.time()
l=[]
for i in range(5):
p = Process(target=task,args=(i,))
p.start()
l.append(p) # 将进程加入列表中,这样 5 个子进程就会全部执行
for p in l:
p.join() # 当5 个子进程全部执行完,才会执行主进程
print('主进程')
print(time.time()-ctime) # 1.0185809135437012
p.daemon
:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()
之前设置p.name
:进程的名称p.pid
:进程的pid 获取进程 ID 还可以通过 os 模块:os.getpid( )–当前进程 id; os.getppid( )–当前进程的父进程 id;
p.exitcode
:进程在运行时为None、如果为–N,表示被信号N结束(了解即可)p.authkey
:进程的身份验证键,默认是由os.urandom()
随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功(了解即可)方式一:
import time
from multiprocessing import Process
def f(name):
print('hello', name)
print('我是子进程')
if __name__ == '__main__':
p = Process(target=f, args=('bob',))
p.start()
time.sleep(1)
print('执行主进程的内容了')
方式二:继承Process类开启进程
import os
from multiprocessing import Process
class MyProcess(Process):
def __init__(self,name):
super().__init__()
self.name=name
def run(self):
print(os.getpid())
print('%s 正在和女主播聊天' %self.name)
p1=MyProcess('wupeiqi')
p2=MyProcess('yuanhao')
p3=MyProcess('nezha')
p1.start() # start会自动调用run
p2.start()
# p2.run()
p3.start()
p1.join()
p2.join()
p3.join()
print('主线程')
p.daemon
属性–守护进程详解注意:结束主进程,所有"守护进程"也会全部结束;主进程会等待所有的“非守护进程”全部结束,才会结束主进程
主进程的结束标志:所有主进程的代码全部运行结束;
区别于主线程,主线程即使代码全部运行结束,也会等待非守护线程全部结束
from multiprocessing import Process
def foo():
print(123)
time.sleep(1)
print("end123")
def bar():
print(456)
time.sleep(3)
print("end456")
p1=Process(target=foo)
p2=Process(target=bar)
p1.daemon=True
p1.start()
p2.start()
time.sleep(0.1)
print("main-------") # 打印该行则主进程代码结束,则守护进程p1应该被终止.#可能会有p1任务执行的打印信息123,因为主进程打印main----时,p1也执行了,但是随即被终止.
可以发现对于守护进程 foo 来说,开启之后并没有完全执行就被主进程强行结束
对于非守护进程 bar 来说,该进程的执行没有收到主进程结束的影响
from threading import Thread
Thread 类与 Process 类的方法与属性的使用基本上是一样的!!!
进程:
线程:
注意:结束主进程,所有"守护进程"也会全部结束;主进程会等待所有的“非守护进程”全部结束,才会结束主进程
主进程的结束标志:所有主进程的代码全部运行结束;
区别于主线程,主线程即使代码全部运行结束,也会等待非守护线程全部结束
在Windows操作系统中由于没有 fork(linux操作系统中创建进程的机制),在创建子进程的时候会自动 import 启动它的这个文件,而在 import 的时候又执行了整个文件。因此如果将process ( )直接写在文件中就会无限递归创建子进程报错。所以必须把创建子进程的部分使用if __name__ == __main__
判断保护起来,import 的时候,就不会递归运行了。
但是,开启线程的时候,其实不需要使用if __name__ == __main__
,不过为了统一使用,加上也可以
链接:>>>>>GIL 全局解释器锁
稍加解释:在没有 GIL 锁的情况下,有可能多线程在执行一个代码的同时,垃圾回收机制线程对所执行代码的变量直接回收,导致运行报错;