学做网络爬虫【二】- 数据抓取(Requests)

学做网络爬虫【一】- 爬虫原理

Requests: 

虽然Python的标准库中 urllib 模块已经包含了平常我们使用的大多数功能，但是它的 API 使用起来让人感觉不太好，而 Requests 自称 "HTTP for Humans"，说明使用更简洁方便。

Requests 唯一的一个非转基因的 Python HTTP 库，人类可以安全享用：）

Requests 继承了urllib的所有特性。Requests支持HTTP连接保持和连接池，支持使用cookie保持会话，支持文件上传，支持自动确定响应内容的编码，支持国际化的 URL 和 POST 数据自动编码。

为什么要学习requests，而不是urllib？

1. requests的底层实现就是urllib
2. requests在python2 和python3中通用，方法完全一样
3. requests简单易用(gzip压缩的等)网页内容
4. requests能够自动帮助我们解压

Requests的文档非常完备，中文文档也相当不错。Requests能完全满足当前网络的需求，支持Python 2.6--3.5，而且能在PyPy下完美运行。

开源地址：https://github.com/kennethreitz/requests

中文文档 API： http://docs.python-requests.org/zh_CN/latest/index.html

安装方式

利用 pip 安装 或者利用 easy_install 都可以完成安装：

$ pip install requests
$ easy_install requests

基本GET请求（headers参数 和 parmas参数）

1. 最基本的GET请求可以直接用get方法

response = requests.get("http://www.baidu.com/")
# 也可以这么写
# response = requests.request("get", "http://www.baidu.com/")

2. 添加 headers 和 查询参数

如果想添加 headers，可以传入headers参数来增加请求头中的headers信息。如果要将参数放在url中传递，可以利用 params 参数。

import requests

kw = {'wd': '长城'}
headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36"}

# params 接收一个字典或者字符串的查询参数，字典类型自动转换为url编码，不需要urlencode()
response = requests.get("http://www.baidu.com/s?", params=kw, headers=headers)

# 查看响应内容，response.text 返回的是Unicode格式的数据
print(response.text)

# 查看响应内容，response.content返回的字节流数据
print(response.content)

# 查看完整url地址
print(response.url)

# 查看响应头部字符编码
print(response.encoding)

# 查看响应码
print(response.status_code)

运行结果

......
http://www.baidu.com/s?wd=%E9%95%BF%E5%9F%8E
ISO-8859-1
200

response.text 和response.content的区别

response.text：

• 类型：str
• 解码类型： 根据HTTP 头部对响应的编码作出有根据的推测，大多数 Unicode 字符集都能被无缝地解码。
• 如何修改编码方式：response.encoding=”gbk”

response.content：

• 类型：bytes
• 解码类型： 没有指定，返回的是服务器响应数据的原始二进制字节流，可以用来保存图片等二进制文件
• 如何修改编码方式：response.content.deocde(“utf8”)

一般使用response.content.deocde()的方式获取响应的html页面

为什么请求需要带上header？

 模拟浏览器，欺骗服务器，获取和浏览器一致的内容

header的形式：字典

• headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36"}

用法： requests.get(url,headers=headers)

发送带参数的请求

什么叫做请求参数：

  列1:    http://www.webkaka.com/tutorial/server/2015/021013/   ☓

  例2： https://www.baidu.com/s?wd=python&c=b

参数的形式：字典 

    •   kw = {'wd':'长城'}

用法：requests.get(url,params=kw)

例子:

通过requests获取新浪首页

#coding=utf-8
import  requests
response = requests.get("http://www.sina.com")
print(response.request.headers)
print(response.content.decode())

结果：

{'User-Agent': 'python-requests/2.22.0', 'Accept-Encoding': 'gzip, deflate', 'Accept': '*/*', 'Connection': 'keep-alive'}




    
    
    
	
	
	
    
  ...

#coding=utf-8
import  requests
response = requests.get("http://www.sina.com")
print(response.request.headers)
print(response.text)

结果：

{'User-Agent': 'python-requests/2.22.0', 'Accept-Encoding': 'gzip, deflate', 'Accept': '*/*', 'Connection': 'keep-alive'}




    
    
    
	
	
	
    
...

产生问题的原因分析

1. requests默认自带的Accept-Encoding导致或者新浪默认发送的就是压缩之后的网页
2. 但是为什么content.read()没有问题，因为requests，自带解压压缩网页的功能
3. 当收到一个响应时，Requests 会猜测响应的编码方式，用于在你调用response.text 方法时对响应进行解码。Requests 首先在 HTTP 头部检测是否存在指定的编码方式，如果不存在，则会使用 chardet.detect来尝试猜测编码方式（存在误差）
4. 更推荐使用response.content.deocde()

通过requests获取网络上图片的大小

from io import BytesIO,StringIO
import requests
from PIL import Image
img_url = "https://img2020.cnblogs.com/blog/1635509/202006/1635509-20200627094340320-1229570538.png"
response = requests.get(img_url)
f = BytesIO(response.content)
img = Image.open(f)
print(img.size)

结果：(317, 409)

理解一下 BytesIO 和StringIO

很多时候，数据读写不一定是文件，也可以在内存中读写。
StringIO顾名思义就是在内存中读写str。
BytesIO 就是在内存中读写bytes类型的二进制数据

例子中如果使用StringIO 即f = StringIO(response.text)会产生"cannot identify image file"的错误
当然上述例子也可以把图片存到本地之后再使用Image打开来获取图片大小

 

基本POST请求（data参数）

哪些地方我们会用到POST请求：

• 登录注册 （ POST 比 GET 更安全 ）

•

• 需要传输 大文本 内容的时候（ POST 请求对数据长度没有 要求 ）

 

1. 最基本post方法

response = requests.post("http://www.baidu.com/", data = data, headers=headers)

2. 传入data数据

对于 POST 请求来说，我们一般需要为它增加一些参数。那么最基本的传参方法可以利用 data 这个参数。

data 的形式：字典

import requests

formdata = {
    "type": "AUTO",
    "i": "i love python",
    "doctype": "json",
    "xmlVersion": "1.8",
    "keyfrom": "fanyi.web",
    "ue": "UTF-8",
    "action": "FY_BY_ENTER",
    "typoResult": "true"
}

url = "http://fanyi.youdao.com/translate?smartresult=dict&smartresult=rule&smartresult=ugc&sessionFrom=null"

headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36"}

response = requests.post(url, data=formdata, headers=headers)

print(response.text)

# 如果是json文件可以直接显示
print(response.json())

运行结果

{"type":"EN2ZH_CN","errorCode":30,"elapsedTime":0,"translateResult":[[{"src":"您的请求来源非法，商业用途使用请关注有道翻译API官方网站\u201C有道智云\u201D: http:\/\/ai.youdao.com","tgt":"您的请求来源非法，商业用途使用请关注有道翻译API官方网站\u201C有道智云\u201D: http:\/\/ai.youdao.com"}]]}
{'type': 'EN2ZH_CN', 'errorCode': 30, 'elapsedTime': 0, 'translateResult': [[{'src': '您的请求来源非法，商业用途使用请关注有道翻译API官方网站“有道智云”: http://ai.youdao.com', 'tgt': '您的请求来源非法，商业用途使用请关注有道翻译API官方网站“有道智云”: http://ai.youdao.com'}]]}

代理（proxies参数）

为什么爬虫需要使用代理？

• 让服务器以为不是同一个客户端在请求
• 防止我们的真实地址被泄露，防止被追究

用法：requests.get("http://www.baidu.com", proxies = proxies)
proxies的形式：字典
proxies = {
    "http": "http://12.34.56.79:9527", 
    "https": "https://12.34.56.79:9527"
}

如果需要使用代理，你可以通过为任意请求方法提供 proxies 参数来配置单个请求：

import requests

# 根据协议类型，选择不同的代理
proxies = {
    "http": "http://12.34.56.79:9527",
    "https": "http://12.34.56.79:9527",
}

response = requests.get("http://www.baidu.com", proxies=proxies)
print(response.text)

也可以通过本地环境变量 HTTP_PROXY 和 HTTPS_PROXY 来配置代理：

export HTTP_PROXY="http://12.34.56.79:9527"
export HTTPS_PROXY="https://12.34.56.79:9527"

私密代理验证（特定格式） 和 Web客户端验证（auth 参数）

私密代理

import requests

# 如果代理需要使用HTTP Basic Auth，可以使用下面这种格式：
proxy = {"http": "mr_mao_hacker:[email protected]:16816"}
response = requests.get("http://www.baidu.com", proxies=proxy)
print(response.text)

web客户端验证

如果是Web客户端验证，需要添加 auth = (账户名, 密码)

import requests

auth = ('test', '123456')
response = requests.get('http://192.168.199.107', auth=auth)
print(response.text)

Cookies 和 Sission

cookie和session区别：

• cookie数据存放在客户的浏览器上，session数据放在服务器上。
• cookie不是很安全，别人可以分析存放在本地的cookie并进行cookie欺骗。
• session会在一定时间内保存在服务器上。当访问增多，会比较占用你服务器的性能。
• 单个cookie保存的数据不能超过4K，很多浏览器都限制一个站点最多保存20个cookie。

带上cookie、session的好处：

• 能够请求到登录之后的页面

带上cookie、session的弊端：

• 一套cookie和session往往和一个用户对应
• 请求太快，请求次数太多，容易被服务器识别为爬虫

不需要cookie的时候尽量不去使用cookie，但是为了获取登录之后的页面，我们必须发送带有cookies的请求

Cookies

如果一个响应中包含了cookie，那么我们可以利用 cookies参数拿到：

import requests

response = requests.get("http://www.baidu.com/")

# 返回CookieJar对象:
cookiejar = response.cookies
print(cookiejar)

# 将CookieJar转为字典：
cookiedict = requests.utils.dict_from_cookiejar(cookiejar)
print(cookiedict)

运行结果：

]>
{'BDORZ': '27315'}

session

requests 提供了一个叫做session类，来实现客户端和服务端的会话保持：从客户端浏览器连接服务器开始，到客户端浏览器与服务器断开。

会话能让我们在跨请求时候保持某些参数，比如在同一个 Session 实例发出的所有请求之间保持 cookie 。

使用方法：

• 实例化一个session对象
• 让session发送get或者post请求

实现人人网登录

import requests

# 1 创建session对象，可以保存Cookie值
ssion = requests.session()

# 2 处理 headers
headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36"}

# 3 需要登录的用户名和密码
data = {"email": "[email protected]", "password": "alarmchime"}

# 4 发送附带用户名和密码的请求，并获取登录后的Cookie值，保存在ssion里
ssion.post("http://www.renren.com/PLogin.do", data=data)

# 5 ssion包含用户登录后的Cookie值，可以直接访问那些登录后才可以访问的页面
response = ssion.get("http://www.renren.com/410043129/profile")

# 6 打印响应内容
print(response.text)

...

处理HTTPS请求 SSL证书验证

Requests也可以为HTTPS请求验证SSL证书：

• 要想检查某个主机的SSL证书，你可以使用 verify 参数（也可以不写）

import requests

response = requests.get("https://www.baidu.com/", verify=True)
# 也可以省略不写
# response = requests.get("https://www.baidu.com/")
print(response.text)

运行结果：

 ...

• 如果SSL证书验证不通过，或者不信任服务器的安全证书，则会报出SSLError：

如果我们想跳过证书验证，把 verify 设置为 False 就可以正常请求了。

---

学做网络爬虫【三】- 数据提取