pip换源
经常在使用python的时候需要安装各种模块,而pip是很强大的模块安装工具,但是由于国外官方pypi经常被墙,导致不可用,所以我们最好是将自己使用的pip源更换一下,这样就能解决被墙导致的装不上库的烦恼。
pip国内的一些镜像
阿里云 http://mirrors.aliyun.com/pypi/simple/
中国科技大学 https://pypi.mirrors.ustc.edu.cn/simple/
豆瓣 http://pypi.douban.com/simple/
清华大学 https://pypi.tuna.tsinghua.edu.cn/simple/
中国科学技术大学 http://pypi.mirrors.ustc.edu.cn/simple/
临时使用:
可以在使用pip的时候在后面加上-i参数,指定pip源
pip install scrapy -i https://pypi.tuna.tsinghua.edu.cn/simple
永久修改:
linux:
修改 ~/.pip/pip.conf (没有就创建一个), 内容如下:
[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple
windows:
直接在user目录中创建一个pip目录,如:C:\Users\xx\pip,新建文件pip.ini,内容如下:
[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple
最近使用得比较多并且比较顺手的是清华大学的pip源,它是官网pypi的镜像,每隔5分钟同步一次
安装框架支持
此时,先不要着急pip install scrapy,在此之前 需要先安装框架支持twisted,否则scrapy安装过程中会报错:
安装twisted
浏览器打开:https://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted
在安装Twisted之前,先确定你的pythonb版本,比如我的版本为python3.6.4,那我就该选cp36的,如果你的电脑是64位系统,win_amd64安装失败,可再安装win32的试一下,因为有些人64位系统就是安装的是32位的python
有朋友点击下载可能会出现这种情况:
这种情况的朋友,请使用火狐浏览器即可正常下载安装过程要注意你下载的文件路径
安装scrapy框架
结束了框架支持的安装,接下来最后一步就非常简单了,直接pip install scrapy 即可安装成,此时框架安装完成!
爬虫向朋友可以加交流群:692-858-412一起学习
pip换源参考链接:http://blog.csdn.net/chenghuikai/article/details/55258957