如何使用python网络爬虫批量获取公共资源数据

在21世纪数据革命的浪潮下，大数据承载的价值不断提高，大数据的应用范围不断地扩大，已经渗透到自然科学和社会科学的多个领域，为学科发展和科学研究提供了巨大的发展机遇。时至今日，大量的公共资源和公开数据集以各种形式分享在互联网上，如何快速批量地获取海量公共资源数据决定了科研的效率。Python网络爬虫是快速批量获取网络数据的重要手段，它按照发送请求、获得页面、解析页面、下载内容、储存内容等流程，根据网页的链接地址自动获取网页内容，其特点是快速批量、自动化运行。由于网页内容、结果和反爬虫机制的不断更新，拥有一段爬虫程序并不是一劳永逸，而需要针对不同网页及时更新，而掌握爬虫的关键技术是在各种复杂网页中成功爬取数据和甚至成为爬虫工程师的基础。本次以公共公开数据资源网站为例，在合法合规的情况下讲解如何利用Python网络爬虫批量获取大量数据，零基础掌握学习爬虫的正确路径，以生动的案例展示经济、生态、气象、农业、商业等网络大数据的获取。

阅读全文点击《如何使用python网络爬虫批量获取公共资源数据》

一、Python软件的安装及入门

1)Anaconda软件安装

2)Python库的安装与基本语法

3)Python的字符操作与正则表达式

4)Python的数据清洗与存储

5)HTML和XML基础

二、Python爬虫基础

1)爬虫的工作流程

2)发送请求及获得页面

Requests库的使用

获取代理、设置代理ip池及反爬虫

3)解析页面技术：

正则表达式使用

BeautifulSoup库的使用

CSS选择器使用

Xpath、lxml、entree语法讲解

PyQuery库使用

三、Python爬虫全流程

1）抓取的数据形式：文本、图片、链接

2）保存和清洗获取的数据

3）如何使用多线程提高爬虫的效率

4）案例：使用五种不同解析技术爬取经济、天气、土壤、品种大数据

 

四、Python爬虫模拟器

 模拟浏览器Selenium使用

1)Selenium库的介绍

2)Selenium定位元素（id/name/class/tag/text/xpath/css定位）

3)Selenium操作网页（点击、保存、刷新等）

4)Selenium显式等待和隐式等待

5)案例：使用Selenium爬取农业大数据

五、Python 爬取异步加载网页及数据集网站

Python 爬取异步加载网页及数据集网站

1)Ajax请求和JS渲染

2)json解析、XHR讲解

3)案例：使用Ajax爬取和下载动态图片库

4)案例：使用json解析爬取数据类网站

5)案例：使用一些特定库爬取大型数据集网

6)案例：如何爬取pdf中的表格数据