利用Scrapy框架爬取数据使用pipelines保存成csv出现乱码的解决办法

之前写了一篇关于使用命令行来执行scrapy代码保存csv文件出现乱码的解决办法,但是我把保存csv的文件代码写到pipelines里的时候,原来的设置(在创建项目的settings.py中,添加如下代码 FEED_EXPORT_ENCODING = 'gb18030')就会出现错误,也就是说,不同的保存方法,设置方式要变化。

我的代码如下:

利用Scrapy框架爬取数据使用pipelines保存成csv出现乱码的解决办法_第1张图片

网上很多的解决办法,例如在seting.py里设置 FEED_EXPORT_ENCODING = 'gb18030'   或者   'utf-8'   或者  'utf-8-sig'。

但是对于我这个代码,保存后仍然是出现乱码,所以都不行,最后的解决办法如下:

利用Scrapy框架爬取数据使用pipelines保存成csv出现乱码的解决办法_第2张图片

如上图所示:

在open()函数里,我们把编码格式改一下,改成 encoding='gb18030'。

在运行保存的时候,就可以解决乱码的问题了,可能有的部分不能解决,那就再尝试别的方法,这个问题在我的代码里得到里很好的解决。

你可能感兴趣的:(Spider)