Scrapy安装指南(不需要安装Visual Studio和Mingw)

本人最近刚开始学习python和scrapy,安装scrapy环境时,遇到很多问题,历时2天安装终于安装完成,在这里记录一下,以下为本人安装的步骤:
  1. 安装python3.5,添加python和python/scripts到环境变量(里面包含 pip和easy_install 工具)
  2. 命令行输入pip install scrapy 安装scrapy,如果存在哪些模块不存在的,通过pip install进行安装
  3. 安装lxml时,出现"Unable to find vcvarsall.bat"错误时,参考 http://blog.csdn.net/u012302488/article/details/51178541 ,在http://www.lfd.uci.edu/~gohlke/pythonlibs/#lxml 下载lxml对应版本的.whl文件(或者安装VS2008、VS2010)
  4. 命令行进入.whl文件目录,pip install xxxxx.whl安装lxml
  5. 再次输入pip install scrapy 安装scrapy,现在可以安装成功(如果出现pip需要升级,先按照错误提示升级pip)
  6. 命令行进入一个目录输入scrapy startproject tutorial,新建一个scrapy项目
  7. 按照Scrapy Tutorial修改代码运行Scrapy项目如果出现“ImportError : cannot import name '_win32stdio'”错误,参考
    https://zhuanlan.zhihu.com/p/21335106
  8. 需要下载twisted3.6.0.zip包,将python中xxxx\Python35\Lib\site-packages\twisted目录中的文件清空,将twisted3.6.0.zip压缩后的文件复制到里面
  9. 再安装pywin32(如果通过pip安装找不到合适的版本,可以到sourcefrog下载与操作系统和python版本对应的pywin32)
  10. 再次运行scrapy项目,最后成功

你可能感兴趣的:(scrapy)