python2.7爬虫学习笔记（一）---Urllib库的使用

扒一个网页：

 import urllib2

 response = urllib2.urlopen("http://www.baidu.com")
 print response.read()

第一行：调用了urllib2库里边的urlopen方法，传入一个url，这个方法一般接收三个参数，如下：

 urlopen(url, data, timeout)

第一个不用解释，data是访问url时要传送的数据，timeout是设置超时时间，后两个为选填，data默认为None，

第二行：返回的response对象有一个read方法，可返回获取到的网页内容。

构造Request：

 import urllib2

 request = urllib2.Request("http://www.baidu.com")
 response = urllib2.urlopen(request)
 print response.read()

与上面效果相同，但这样写更符合逻辑规范

post和get数据传送：

post方式：

 import urllib
 import urllib2

 values = {"username":"[email protected]","password":"XXXX"}
 data = urllib.urlencode(values)
 url = "https://passport.csdn.net/account/login?from=http://my.csdn.net/my/mycsdn"
 request = urllib2.Request(url,data)
 response = urllib2.urlopen(request)
 print response.read()

在此引入了urllib库，模拟登陆CSDN，当然是登不上去的，因为一些参数还没有设置，这个只是原理，

get方式：

 import urllib
 import urllib2

 values={}
 values['username'] = "[email protected]"
 values['password']="XXXX"
 data = urllib.urlencode(values)
 url = "http://passport.csdn.net/account/login"
 geturl = url + "?"+data
 request = urllib2.Request(geturl)
 response = urllib2.urlopen(request)
 print response.read()

设置headers：

 import urllib
 import urllib2

 url = 'http://www.server.com/login'
 user_agent = 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'
 values = {'username' : 'cqc',  'password' : 'XXXX' }
 headers = { 'User-Agent' : user_agent }
 data = urllib.urlencode(values)
 request = urllib2.Request(url, data, headers)
 response = urllib2.urlopen(request)
 page = response.read()

这样在构建Request时传入headers请求，服务器就会识别为时浏览器发来的请求，并作出响应。

另外，我们还有对付”反盗链”的方式，对付防盗链，服务器会识别headers中的referer是不是它自己，如果不是，有的服务器不会响应，所以我们还可以在headers中加入referer，如下：

 headers = { 'User-Agent' : 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'  ,
                         'Referer':'http://www.zhihu.com/articles' }

另外headers的一些属性，下面的需要特别注意一下：

User-Agent : 有些服务器或 Proxy 会通过该值来判断是否是浏览器发出的请求
Content-Type : 在使用 REST 接口时，服务器会检查该值，用来确定 HTTP Body 中的内容该怎样解析。
application/xml ： 在 XML RPC，如 RESTful/SOAP 调用时使用
application/json ： 在 JSON RPC 调用时使用
application/x-www-form-urlencoded ： 浏览器提交 Web 表单时使用
在使用服务器提供的 RESTful 或 SOAP 服务时， Content-Type 设置错误会导致服务器拒绝服务

其他的有必要的可以审查浏览器的headers内容，在构建时写入同样的数据即可。

Proxy（代理）的设置：urllib2 默认会使用环境变量 http_proxy 来设置 HTTP Proxy。假如一个网站它会检测某一段时间某个IP 的访问次数，如果访问次数过多，它会禁止你的访问。所以你可以设置一些代理服务器来帮助你做工作，每隔一段时间换一个代理。下面一段代码说明了代理的设置用法

 import urllib2
 enable_proxy = True
 proxy_handler = urllib2.ProxyHandler({"http" : 'http://some-proxy.com:8080'})
 null_proxy_handler = urllib2.ProxyHandler({})
 if enable_proxy:
     opener = urllib2.build_opener(proxy_handler)
 else:
     opener = urllib2.build_opener(null_proxy_handler)
 urllib2.install_opener(opener)

Timeout设置：可以设置等待多久超时，为了解决一些网站实在响应过慢而造成的影响。例如下面的代码,如果第二个参数data为空那么要特别指定是timeout是多少，写明形参，如果data已经传入，则不必声明。

 import urllib2
 response = urllib2.urlopen('http://www.baidu.com', timeout=10)

 import urllib2
 response = urllib2.urlopen('http://www.baidu.com',data, 10)

URLError异常处理：

URLError捕获相应异常：

 import urllib2

 requset = urllib2.Request('http://www.xxxxx.com')
 try:
     urllib2.urlopen(requset)
 except urllib2.URLError, e:
     print e.reason

访问了不存在的网址，返回结果：

 [Errno 11004] getaddrinfo failed

HTTPError： HTTPError是URLError的子类，在你利用urlopen方法发出一个请求时，服务器上都会对应一个应答对象response，其中它包含一个数字”状态码”。举个例子，假如response是一个”重定向”，需定位到别的地址获取文档，urllib2将对此进行处理。 其他不能处理的，urlopen会产生一个HTTPError，对应相应的状态吗，HTTP状态码表示HTTP协议所返回的响应的状态。下面将状态码归结如下：

100：继续  客户端应当继续发送请求。客户端应当继续发送请求的剩余部分，或者如果请求已经完成，忽略这个响应。

101： 转换协议  在发送完这个响应最后的空行后，服务器将会切换到在Upgrade 消息头中定义的那些协议。只有在切换新的协议更有好处的时候才应该采取类似措施。

102：继续处理   由WebDAV（RFC 2518）扩展的状态码，代表处理将被继续执行。

200：请求成功      处理方式：获得响应的内容，进行处理

201：请求完成，结果是创建了新资源。新创建资源的URI可在响应的实体中得到    处理方式：爬虫中不会遇到

202：请求被接受，但处理尚未完成    处理方式：阻塞等待

204：服务器端已经实现了请求，但是没有返回新的信 息。如果客户是用户代理，则无须为此更新自身的文档视图。    处理方式：丢弃

300：该状态码不被HTTP/1.0的应用程序直接使用， 只是作为3XX类型回应的默认解释。存在多个可用的被请求资源。    处理方式：若程序中能够处理，则进行进一步处理，如果程序中不能处理，则丢弃
301：请求到的资源都会分配一个永久的URL，这样就可以在将来通过该URL来访问此资源    处理方式：重定向到分配的URL

302：请求到的资源在一个不同的URL处临时保存     处理方式：重定向到临时的URL

304：请求的资源未更新     处理方式：丢弃

400：非法请求     处理方式：丢弃

401：未授权     处理方式：丢弃

403：禁止     处理方式：丢弃

404：没有找到     处理方式：丢弃

500：服务器内部错误  服务器遇到了一个未曾预料的状况，导致了它无法完成对请求的处理。一般来说，这个问题都会在服务器端的源代码出现错误时出现。

501：服务器无法识别  服务器不支持当前请求所需要的某个功能。当服务器无法识别请求的方法，并且无法支持其对任何资源的请求。

502：错误网关  作为网关或者代理工作的服务器尝试执行请求时，从上游服务器接收到无效的响应。

503：服务出错   由于临时的服务器维护或者过载，服务器当前无法处理请求。这个状况是临时的，并且将在一段时间以后恢复。

HTTPError实例产生后会有一个code属性，这就是是服务器发送的相关错误号。
因为urllib2可以为你处理重定向，也就是3开头的代号可以被处理，并且100-299范围的号码指示成功，所以你只能看到400-599的错误号码。

下面我们写一个例子来感受一下，捕获的异常是HTTPError，它会带有一个code属性，就是错误代号，另外我们又打印了reason属性，这是它的父类URLError的属性。

 import urllib2

 req = urllib2.Request('http://blog.csdn.net/cqcre')
 try:
     urllib2.urlopen(req)
 except urllib2.HTTPError, e:
     print e.code
     print e.reason

运行结果：

 403
 Forbidden

错误代号是403，错误原因是Forbidden，说明服务器禁止访问。

HTTPError的父类是URLError，根据编程经验，父类的异常应当写到子类异常的后面，如果子类捕获不到，那么可以捕获父类的异常，所以上述的代码可以这么改写

 import urllib2

 req = urllib2.Request('http://blog.csdn.net/cqcre')
 try:
     urllib2.urlopen(req)
 except urllib2.HTTPError, e:
     print e.code
 except urllib2.URLError, e:
     print e.reason
 else:
     print "OK"

如果捕获到了HTTPError，则输出code，不会再处理URLError异常。如果发生的不是HTTPError，则会去捕获URLError异常，输出错误原因。

另外还可以加入 hasattr属性提前对属性进行判断，代码改写如下

 import urllib2

 req = urllib2.Request('http://blog.csdn.net/cqcre')
 try:
     urllib2.urlopen(req)
 except urllib2.URLError, e:
     if hasattr(e,"code"):
         print e.code
     if hasattr(e,"reason"):
         print e.reason
 else:
     print "OK"

首先对异常的属性进行判断，以免出现属性输出报错的现象。

cookie的使用：

opener：

当你获取一个URL你使用一个opener(一个urllib2.OpenerDirector的实例)。在前面，我们都是使用的默认的opener，也就是urlopen。它是一个特殊的opener，可以理解成opener的一个特殊实例，传入的参数仅仅是url，data，timeout。

如果我们需要用到Cookie，只用这个opener是不能达到目的的，所以我们需要创建更一般的opener来实现对Cookie的设置。

cookielib：

cookielib模块的主要作用是提供可存储cookie的对象，以便于与urllib2模块配合使用来访问Internet资源。Cookielib模块非常强大，我们可以利用本模块的CookieJar类的对象来捕获cookie并在后续连接请求时重新发送，比如可以实现模拟登录功能。该模块主要的对象有CookieJar、FileCookieJar、MozillaCookieJar、LWPCookieJar。

它们的关系：CookieJar —-派生—->FileCookieJar  —-派生—–>MozillaCookieJar和LWPCookieJar

1，获取cookie保存到变量：

 import urllib2
 import cookielib
 #声明一个CookieJar对象实例来保存cookie
 cookie = cookielib.CookieJar()
 #利用urllib2库的HTTPCookieProcessor对象来创建cookie处理器
 handler=urllib2.HTTPCookieProcessor(cookie)
 #通过handler来构建opener
 opener = urllib2.build_opener(handler)
 #此处的open方法同urllib2的urlopen方法，也可以传入request
 response = opener.open('http://www.baidu.com')
 for item in cookie:
     print 'Name = '+item.name
     print 'Value = '+item.value

我们使用以上方法将cookie保存到变量中，然后打印出了cookie中的值，运行结果如下

 Name = BAIDUID
 Value = B07B663B645729F11F659C02AAE65B4C:FG=1
 Name = BAIDUPSID
 Value = B07B663B645729F11F659C02AAE65B4C
 Name = H_PS_PSSID
 Value = 12527_11076_1438_10633
 Name = BDSVRTM
 Value = 0
 Name = BD_HOME
 Value = 0

2，保存cookie到变量：就要用到FileCookieJar这个对象了，在这里我们使用它的子类MozillaCookieJar来实现Cookie的保存

 import cookielib
 import urllib2

 #设置保存cookie的文件，同级目录下的cookie.txt
 filename = 'cookie.txt'
 #声明一个MozillaCookieJar对象实例来保存cookie，之后写入文件
 cookie = cookielib.MozillaCookieJar(filename)
 #利用urllib2库的HTTPCookieProcessor对象来创建cookie处理器
 handler = urllib2.HTTPCookieProcessor(cookie)
 #通过handler来构建opener
 opener = urllib2.build_opener(handler)
 #创建一个请求，原理同urllib2的urlopen
 response = opener.open("http://www.baidu.com")
 #保存cookie到文件
 cookie.save(ignore_discard=True, ignore_expires=True)

ignore_discard的意思是即使cookies将被丢弃也将它保存下来，ignore_expires的意思是如果在该文件中cookies已经存在，则覆盖原文件写入，在这里，我们将这两个全部设置为True

3，从文件中获取cookie并访问：

 import cookielib
 import urllib2

 #创建MozillaCookieJar实例对象
 cookie = cookielib.MozillaCookieJar()
 #从文件中读取cookie内容到变量
 cookie.load('cookie.txt', ignore_discard=True, ignore_expires=True)
 #创建请求的request
 req = urllib2.Request("http://www.baidu.com")
 #利用urllib2的build_opener方法创建一个opener
 opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cookie))
 response = opener.open(req)
 print response.read()

4，利用cookie模拟网站登录：

 import urllib
 import urllib2
 import cookielib

 filename = 'cookie.txt'
 #声明一个MozillaCookieJar对象实例来保存cookie，之后写入文件
 cookie = cookielib.MozillaCookieJar(filename)
 opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cookie))
 postdata = urllib.urlencode({
             'stuid':'2012xxxxx',
             'pwd':'xxxxxx'
         })
 #登录教务系统的URL
 loginUrl = 'http://jwxt.sdu.edu.cn:7890/pls/wwwbks/bks_login2.login'
 #模拟登录，并把cookie保存到变量
 result = opener.open(loginUrl,postdata)
 #保存cookie到cookie.txt中
 cookie.save(ignore_discard=True, ignore_expires=True)
 #利用cookie请求访问另一个网址，此网址是成绩查询网址
 gradeUrl = 'http://jwxt.sdu.edu.cn:7890/pls/wwwbks/bkscjcx.curscopre'
 #请求访问成绩查询网址
 result = opener.open(gradeUrl)
 print result.read()

以上程序的原理如下：

创建一个带有cookie的opener，在访问登录的URL时，将登录后的cookie保存下来，然后利用这个cookie来访问其他网址。