如何学习python爬虫技术

作为一门历史悠久的语言，Python比R更具有通用性，比C++更灵活，可以说Python是一个很全面的语言，尤其是在数据科学、机器学习和AI方面，表现很出色。如果想自学，怎么学习python爬虫技术?

一、基础知识的掌握

什么是爬虫?数据是从哪里来的?这些基础到不行的知识点，请自行搜索!你还得掌握：

1.HTML，了解网页的结构，内容等，帮助后续的数据爬取。

2.Python

因为比较简单，零基础可以听一些大牛的博客文章，或者听别人是怎么说

python玩转自动化测试，这个点有基础的同学，可以略过哈~

3.TCP/IP协议，HTTP协议

了解在网络请求和网络传输上的基本原理，帮助今后写爬虫的时候理解爬虫的逻辑。

二、爬取整个网站的构思

当用户在浏览网页时，会看图片。

点击网址看到的图片，是用户输入网址-DNS服务器-服务器主机-服务器请求-服务器解析-发送浏览器HTML、JS、CSS-浏览器解析-解析图片

爬虫需要爬取，有HTML代码构成的网页，然后获取图片和文字!

三、环境配置

环境配置总是最重要的一个环境，做过测试的都知道。python也一样，需要掌握几款好用的IDE，我们来看看常用的几个：

1、Notepad++，简单，但是提示功能不强

2、PyCharm，用于一般IDE具备的功能，比如，调试、语法高亮、代码跳转、等等，同时可用于Django开发，支持Google App Engine，更酷的是，PyCharm支持IronPython!

好的开发工具是一切工作完成的前提。

Python语言可以写爬虫，但仅仅只是爬虫的入门而已。过Python入门爬虫比较简单易学，不需要在一开始掌握太多太基础太底层的知识就可以很快上手，而且很快可以做出成果，非常适合小白一开始想做出点看得见的东西的成就感。如果想要往这个方向发展，Python是不错的入门选项。

111

领取