【爬虫】如何进一步的提高Scrapy爬虫的爬取速度?

配置并发连接选项

settings.py文件
选项 说明
CONCURRENT_REQUESTS Downloader最大并发请求下载数量,默认32
CONCURRENT_ITEMS Item Pipeline 最大并发Item 处理数量,默认100
CONCURRENT_REQUESTS_PER_DOMAIN 每个目标域名最大的并发请求数量,默认8
CONCURRENT_REQUESTS_PER_IP 每个目标 IP 最大的并发请求数量,默认0,非0有效

你可能感兴趣的:(爬虫,scrapy,提高Scrapy爬虫的爬取速度,settings.py,配置并发连接选项)