进程池复制文件和回调函数

“”"
使用进程池方式实现多任务
复制一个文件夹下的所有文件(一个文件的复制由一个进程来完成)
文件夹目录:D:/file
注意:需要使用管道队列Manager().Queue()

目的:进程池异步任务中 回调函数的使用
“”"
from multiprocessing import Manager,Pool
import time,random,os
#复制文件
def copyFile(srcFile,toFile,queue):
try:
fr =open(srcFile,‘r’,encoding=‘utf-8’)
fw =open(toFile,‘w’,encoding=‘utf-8’)
content = fr.read()
fw.write(content)
#将已经复制完毕的文件 的信息存入队列中
# queue.put(toFile)
time.sleep(random.random()*3)
finally:
fr.close()
fw.close()

#回调函数 (与某个进程处理的任务相关联,当该进程处理完该任务以后,回调函数被调用)
def finished(queue,file,total):
queue.put(file)
print((queue.qsize(),total))
print(‘文件{0}复制完成’.format(file))

if name == ‘main’:
#创建管道队列
queue = Manager().Queue()
#创建进程池对象
pool = Pool()
#准备好源文件夹
srcDir = ‘D:/file’

 #创建好目标文件夹
 toDir = srcDir+'-复件'
 os.makedirs(toDir)

 list_files  = os.listdir(srcDir)
 total = len(list_files)
 for file in  list_files:
     #源文件
     srcFile =srcDir +'/'+file
     #目标文件
     toFile =toDir +'/'+file
     # 同步执行多任务
     # pool.apply(copyFile,args=(srcFile,toFile,queue))
     # 异步执行多任务
     pool.apply_async(copyFile,args=(srcFile,toFile,queue),callback=finished(queue,file,total))
 #先关闭进程池对象,防止进程池里边的进程被修改
 pool.close()
 #阻塞主进程
 pool.join()

你可能感兴趣的:(进程池复制文件和回调函数)