爬虫:request、scrapy、scrapy-redis的爬虫流程,匹配机制:xpath、正则、css选择器,反爬虫策略
文章目录一、python、PHP、Java、C/C++爬虫的比较二、python爬虫基础知识1.抓取HTML页面2.解析响应页面的内容3.采集动态HTMLselenium操作cookie隐式等待和显示等待打开新窗口和切换页面:4.验证码处理5.scrapy框架(scrapy、pyspider)安装scrapy框架scrapy框架架构项目文件作用CrawlSpider爬虫使用twisted异步保存M