记录一次scrapy的crawlspider 详情页自动路径拼接问题

我在运行scrapy  crawlspider的时候,发现首页200请求成功,但是详情页返回404,于是,进入网站,查看详情页链接是什么样子

这是列表页

直接鼠标右键,新页面打开,发现网页正常,链接如下:

 

这下知道原因了,是crawlspider的路径拼接有问题,

正常打开的链接是https://www.xxx.com/xwzx/dzyw/202005/t2020058.html

而crawlspider 它自己拼接的链接是 https://www.xxx.com/202005/t2020058.html

它没有带上xwzx/dzyw这个前缀,因此,运行该爬虫,返回了404异常状态码

果断开始各种度娘谷哥,没有相关介绍,em~~我去看看scrapy官方文档,也没有...

记录一次scrapy的crawlspider 详情页自动路径拼接问题_第1张图片

 

无奈,自己去看源码

ctrl + 鼠标左键,进入crawlspider Rule的源码

记录一次scrapy的crawlspider 详情页自动路径拼接问题_第2张图片

记录一次scrapy的crawlspider 详情页自动路径拼接问题_第3张图片

记录一次scrapy的crawlspider 详情页自动路径拼接问题_第4张图片

但我打印attr_val 时发现它是正常的,那么问题就出在了base_url身上

知道了原因,那么就接着寻找base_url从哪里来的,我发现base_url就在刚开始的lxmlhtml.py这个文件夹中,再次上图记录一次scrapy的crawlspider 详情页自动路径拼接问题_第5张图片

再次深入的时候,发现base_url在 response.py get_base_url里,但是没有摸透这一块,因为_baseurl_cache我打印不出来,这是一个对象- -,

记录一次scrapy的crawlspider 详情页自动路径拼接问题_第6张图片

好吧,只能使用治标不治本的方法,回到lxmlhtml.py这个文件中,强行更改base_url

记录一次scrapy的crawlspider 详情页自动路径拼接问题_第7张图片

如果有大佬有别的好的解决方案,烦请告知,我这个方法只能解决一下燃眉之急~~~

你可能感兴趣的:(scrapy)