python 在类里使用进程池

  1. 首先, 进程池的作用就是减少进程的创建和释放 开销的, 所以在类中作为局部变量是不合适的;
  2. 其次, 进程池必须在if __name__ == "__main__"里 ,否则会报 frozen_ 什么什么的错误;(这一点可能解释有误);
  3. 然后, 线程池的apply_async 中如果传入self.xxx方法,会报multiprocessing.Pool pickling error什么的错误, 具体解释见 https://blog.csdn.net/dutsoft/article/details/70336462 , 里面有解决方法,但是我没有成功;

由于第1点 不合理, 所以有什么办法在类 函数中获取 进程池对象po的地址:


image.png

我的解决思路和方法是:

  1. 通过globals() 取得全局变量 , 测试证明 :不同文件的globals()是不同的: 如Tab2.pyglobals()main_extra_func_file.py中的 globals()是不同的 , 所以 这样在Tab2.py中取不到po对象;
  2. 通过__main__.po 来获取 (为什么会想到这个呢, 因为有时候导包 import .xxx 和import xxx 会报 __main__ 没有什么属性什么的):
def getPoolObject():
    # po 的名字在main函数中定义
    #  __main__ 模块在sys.modules 的键是"__mp_main__"
    return sys.modules["__mp_main__"].po

ps : (图没截好 , rglob_worker 是外部函数 , 非类内函数 ,po = getPoolBojcet() 这一行是类内函数 ,红色箭头 2. 在的那条白色分割线 是2个函数。 )

image.png

len(po._cache) == 1 : po._cache 是当前有任务的进程数, ==1表示所有任务结束;

利用回调 , 可以更轻松地进行进程通信。

你可能感兴趣的:(python 在类里使用进程池)