python多进程的理解 multiprocessing Process join run

最近看了下多进程。

一种接近底层的实现方法是使用 os.fork()方法，fork出子进程。但是这样做事有局限性的。比如windows的os模块里面没有 fork() 方法。

windows：。linux：

 

另外还有一个模块：subprocess。这个没整过，但从vamei的博客里看到说也同样有局限性。

所以直接说主角吧 --- multiprocessing模块。 multiprocessing模块会在windows上时模拟出fork的效果，可以实现跨平台，所以大多数都使用multiprocessing。

下面给一段简单的代码，演示一下创建进程：

#encoding:utf-8

from multiprocessing import Process

import os, time, random



#线程启动后实际执行的代码块

def r1(process_name):

    for i in range(5):

        print process_name, os.getpid()     #打印出当前进程的id

        time.sleep(random.random())


def r2(process_name):

    for i in range(5):

        print process_name, os.getpid()     #打印出当前进程的id

        time.sleep(random.random())

    

if __name__ == "__main__":

        print "main process run..."

        p1 = Process(target=r1, args=('process_name1', ))       #target:指定进程执行的函数，args:该函数的参数，需要使用tuple

        p2 = Process(target=r2, args=('process_name2', ))

        

        p1.start()    #通过调用start方法启动进程，跟线程差不多。

        p2.start()    #但run方法在哪呢？待会说。。。

        p1.join()     #join方法也很有意思，寻思了一下午，终于理解了。待会演示。

        p2.join()

        print "main process runned all lines..."

执行结果：

 

上面提到了两个方法：run 和join

run：如果在创建Process对象的时候不指定target，那么就会默认执行Process的run方法：

#encoding:utf-8

from multiprocessing import Process

import os, time, random



def r():

    print 'run method'

    

if __name__ == "__main__":

        print "main process run..."

        #没有指定Process的targt

        p1 = Process()

        p2 = Process()

        #如果在创建Process时不指定target，那么执行时没有任何效果。因为默认的run方法是判断如果不指定target，那就什么都不做

        #所以这里手动改变了run方法

        p1.run = r

        p2.run = r

        

        p1.start()

        p2.start()

        p1.join()

        p2.join()

        print "main process runned all lines..."

另：python源码里，Process.run方法：

执行结果：

可见如果在实例化Process时不指定target，就会执行默认的run方法。

 

还有一个join方法：

最上面演示的代码中，在调用Process的start方法后，调用了两次join方法。这个join方法是干什么的呢？

官方文档的意思是：阻塞当前进程，直到调用join方法的那个进程执行完，再继续执行当前进程。

 

比如还是刚才的代码，只是把两个join注释掉了：

#encoding:utf-8

from multiprocessing import Process

import os, time, random



def r1(process_name):

    for i in range(5):

        print process_name, os.getpid()     #打印出当前进程的id

        time.sleep(random.random())

def r2(process_name):

    for i in range(5):

        print process_name, os.getpid()     #打印出当前进程的id

        time.sleep(random.random())



if __name__ == "__main__":

        print "main process run..."

        p1 = Process(target=r1, args=('process_name1', )) 

        p2 = Process(target=r2, args=('process_name2', )) 



        p1.start()

        p2.start()

 #p1.join()
 #p2.join()    

        print "main process runned all lines..."

 执行结果：

 发现主进程不像之前那样，等待两个子进程执行完了，才继续执行。而是启动两个进程后立即向下执行。

 

为了深刻理解，这次把p2的执行函数里面睡眠时间调大，让他多睡一会，然后保留p1的join，注释掉p2的join，效果更明显：

#encoding:utf-8

from multiprocessing import Process

import os, time, random



def r1(process_name):

    for i in range(5):

        print process_name, os.getpid()     #打印出当前进程的id

        time.sleep(random.random())

def r2(process_name):

    for i in range(5):

        print process_name, os.getpid()     #打印出当前进程的id

        time.sleep(random.random()*2)



if __name__ == "__main__":

        print "main process run..."

        p1 = Process(target=r1, args=('process_name1', )) 

        p2 = Process(target=r2, args=('process_name2', )) 



        p1.start()

        p2.start()

        p1.join()

        #p2.join()    

        print "main process runned all lines..."

执行结果：

发现主线程只是等待p1完成了，就会向下执行，而不会等待p2是否完成。

 所以使用多进程的常规方法是，先依次调用start启动进程，再依次调用join要求主进程等待子进程的结束。

 

然而为什么要先依次调用start再调用join，而不是start完了就调用join呢，如下：

由：

p1.start()

p2.start()

p1.join()

改为：

p1.start()

p1.join()

p2.start()

执行效果：

 发现是先执行完p1，再执行主线程，最后才开始p2。

今天上午一直困惑这个事，现在终于明白了。join是用来阻塞当前线程的，p1.start()之后，p1就提示主线程，需要等待p1结束才向下执行，那主线程就乖乖的等着啦，自然没有执行p2.start()这一句啦，当然就变成了图示的效果了。