TypeError: can't pickle _thread.lock objects

参考链接:https://blog.csdn.net/weixin_41935140/article/details/81153611

在实现多进程时遇到这个问题:

class Scheduler(object):
    def __init__(self):
        self.redis = RedisClient()
        
    def schedule_get(self):
        g = getUrls()
        g.main()
        
    def schedule_parse(self):
        p = parseUrl()
        while True:
            p.main()

    def run(self):
        test_jobs = Process(target=self.schedule_get)
        test_jobs.start()

        test_parse_job = Process(target=self.schedule_parse)
        test_parse_job.start() 

看到上述博客后,发现问题是:在实现多进程的类中,初始化了reids类,导致了该问题。

在实现多进程时尽量将方法,类封写进子函数或类中。

去掉初始化的redis类就没问题了。

class Scheduler(object):
    def schedule_get(self):
        g = getUrls()
        g.main()
        
    def schedule_parse(self):
        p = parseUrl()
        while True:
            p.main()

    def run(self):
        test_jobs = Process(target=self.schedule_get)
        test_jobs.start()

        test_parse_job = Process(target=self.schedule_parse)
        test_parse_job.start() 

 

你可能感兴趣的:(爬虫,程序安装)