Python爬虫——scrapy_工作原理

  1. 引擎向spiders要url
  2. 引擎把将要爬取的url给调度器
  3. 调度器会将url生成的请求对象放入到指定的队列中
  4. 从队列中出队一个请求
  5. 引擎将请求交给下载器进行处理
  6. 下载器发送请求获取互联网数据
  7. 下载器将数据返回给引擎
  8. 引擎将数据再次给到spiders
  9. spiders通过xpath解析该数据,得到数据或者url
  10. spiders将数据或者url给到引擎
  11. 引擎判断改数据是url,还是数据,是数据的话就交给管道(itempipeline)处理,是url的话就交给调度器处理
    Python爬虫——scrapy_工作原理_第1张图片

你可能感兴趣的:(Python爬虫,爬虫,scrapy,python)