大佬带你1小时入门 Python 爬虫

适合人群:

零基础 Python 读者

具有 Python 基础读者

想学爬虫的学者

本文内容如下：

Python 基础知识学习途径

Python开发环境的搭建

什么是爬虫？

爬虫的作用

豆瓣短评的数据爬取

而爬虫工程师、数据分析师、大数据工程师的岗位也越来越受欢迎。爬虫则是 Python 的一个应用领域，Python 还有诸多应用领域，如 Web 全栈开发、图形界面开发、大数据、人工智能、系统网络运维、云计算系统管理……

Python 基础知识学习途径

学习好 Python 基础对于学习 Python 爬虫具有事半功倍的效果。就像生活中的学英语一样，一个对英语一概不通的人听完别人读英语，自己也能读出来，但是要把英语读好，好好学习音标是非常有必要的。

然而 Python 的基础知识如果要系统学习，内容也较多，那么我们到底需要学习到什么程度，对于学习 Python 爬虫才是足够的呢？这里，我对学习爬虫需要掌握的 Python 基础知识进行了筛选，过滤掉了一些不必要的知识。为您提供了如下学习链接：

Python 开发环境的搭建

Python 目前流行版本两个 Python 2.x 与 Python 3.x，由于 Python 2 只会维护到2020年，因此这里建议使用 python 3 来作为我们的编程环境。

1.下载Python。

进入下载页面（https://www.python.org/downloads/release/python-362/）下载 Python3.6.2 版本即可。

提示：根据你的电脑选择，32位还是64位的安装包。

安装过程中只需要默认安装即可。安装完成后在 cmd 命令行输入 python，然后回车，如果成功进入 python 并返回 python 的版本信息，则证明 Python 环境安装成功（这里我将 Python.exe 改为了 Python3.exe）。如下图所示。

 

 

什么是爬虫？

网络爬虫（又被称为网页蜘蛛，网络机器人，在 FOAF 社区中间，更常被称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本，从中获取大量的信息。

爬虫的作用主要有以下几点：

• 市场分析：电商分析、商圈分析、一二级市场分析等；

• 市场监控：电商、新闻、房源监控、票房预测、股票分析等；

• 商机发现：招投标情报发现、客户资料发掘、企业客户发现等；

• 数据分析：对某个 App 的下载量跟踪、用户分析、评论分析，虚拟货币详情分析……

爬虫基础知识补充

在开始学习爬虫知识之前，你需要了解一些网页的基本知识：

• 网址的构成

• 网页的基本构成

• 常见的加载模式

• 网页的请求过程

• 谷歌浏览器之 HTTP 请求分析

1.网址的构成

网站的网址一般由协议+域名+加页面构成，如 https://auction.jd.com/home.html，域名一般是固定的不会改变，能改变的则是页面（home.html），所以在爬虫的过程中我们所需要解析的就是自己编写的不同页面的URL，只有解析出各个不同页面的 URL 入口，我们才能开始爬虫（爬取网页）。

2.网页的基本构成

一般来说一个网页的页面主要有 HTML、CSS、JavaScript 构成，这里我们可以打开任意一个网页右击查看网页源代码。

• HTML：是用来制作网页，简单来说就是编写网页结构。

• CSS：美化网页（样式）；

• JavaScript: 实现网页与客户之间互动的桥梁，让网页具有丰富的生命力。

3.常见的加载模式

学习爬虫有必要了解网页常见的两种加载模式（后续爬虫过程中，经常需要用到）。

• 同步加载：改变网址上的某些参数会导致网页发生改变。如常见的网站翻页后网址会发生变化。

• 异步加载：改变网址上的参数不会使网页发生改变。如常见的网站翻页后网址不会发生变化。

4.网页的请求过程

打开浏览器，地址栏输 baidu.com，按下回车，到用户看到内容，主要经历了如下步骤：

（1）开始进行域名解析。

首先浏览器自身搜 DNS 缓存，搜 baidu.com 有没有缓存有没有过期，如果过期就结束，其次浏览器会搜索操作系统自身的 DNS 缓存并读取本地的 host 文件，浏览器发起一个 DNS 系统调用。

（2）浏览器获得 baidu.com 域名对应的 IP 地址后，发起 HTTP 三次握手。

 

（3）建立 TCP/IP，浏览器就可以向服务器发送 HTTP 请求。

TCP/IP 链接建立起来后，浏览器就可以向服务器发送 HTTP 请求。服务器接收到请求之后就会对请求做相应的处理，并将结果返回给浏览器。

（4）浏览器拿到资源之后对页面进行加载、解析、渲染，最后呈现给用户。

5.谷歌浏览器之 HTTP 请求分析

打开 Chrome 开发工具（这里我们以打开百度网址为例），如下图：

 

 

• Elements（元素面板）：使用“元素”面板可以通过自由操纵 DOM 和 CSS 来重演您网站的布局和设计。

• Console（控制台面板）：在开发期间，可以使用控制台面板记录诊断信息，或者使用它作为 shell，在页面上与 JavaScript 交互。

• Sources（源代码面板）：在源代码面板中设置断点来调试 JavaScript ，或者通过 Workspaces（工作区）连接本地文件来使用开发者工具的实时编辑器。

• Network（网络面板）：从发起网页页面请求 Request 后得到的各个请求资源信息（包括状态、资源类型、大小、所用时间等），并可以根据这个进行网络性能优化。

 

 

 

 

需要相关python资料的可以扫一下备注【python】