Python2手动识别验证码的爬虫

一 验证码机制

验证码是网站为预防爬虫或暴力破解密码等行为而实行的简单有效的机制。一般的验证码采用的是由客户端发送GET请求，请求中包含一个13位 时间戳（下文中的例子即是如此）。时间戳起到的是区分用户的功能，举例来说，A，B两人同时发送验证码请求给服务器，之后服务器会生成两个验证码给A和B。但如果A看过之后输入的是B的验证码，那服务器当然不能让其通过验证了。这样服务器通过用户请求中的时间戳将两个验证码与两个用户的身份绑定在一起，验证时就不会出错了。最后用户输入的验证码会在表单中POST给服务器验证。

自动识别验证码不在这篇文章讨论范围以内。

二 欲爬虫的网站分析

爬虫之前当然需要分析要下手的网站。这里目的是要分析几点

• • 各种GET，POST方法的URL
  • 提交表单的内容
  • 该网站提交表单的流程（看奇葩流程的时候心里哭的像个一百多斤的孩子）

我就直接上例子啦。

1. 1. 首先打开网站，按下F12。（我用的是Chrome，不过各浏览器大同小异，不影响使用）
   2. 输入表单，点击提交。
   3. 点击工作台中的Network（如图）

点击红圈2处可以看到它是POST请求，红圈3处是验证码的请求URL，我们要的信息有这些：

至此表单内容和请求URL已经分析出来，下面看提交流程，右击网页空白，查看网页源代码。

function goLogin() {
        var sno = $("#txt_sno").val();
        var pwd = $("#txt_pwd").val();

        var b = new Base64();
        npwd = b.encode(pwd);

        var remember=0;
        if ($("#txtjzm").prop("checked"))
            remember = 1;
        var uclass = $("#txt_class").combobox("getValue");
        $('#btn_login').attr('disabled', true);
        $('#btn_login').text("正在登录...");
        AjaxPost(AjaxHandlerUrl + 'Login/LoginBySnoQuery', { sno: sno, pwd: npwd, ValiCode: $("#txtVal").val(), remember: remember, uclass: uclass }, function (result) {
            if (result.IsSucceed)
                location.href = "/User/User";
            else {
                $('#btn_login').removeAttr('disabled');
                $('#btn_login').text('登 录');
                $('#img_valiCode').attr("src", AjaxHandlerUrl + 'Login/GetValidateCode?time=' + (new Date()).getTime());
                $.messager.alert("提示", result.Msg, "warning", function () { $("#txt_sno").focus(); });
            }
        });
    }

发现网站提交表单时很nice地把密码通过Base64加密了（刚刚手动输入表单后提交会发现，控制台中的sno和ValiCode是我输入的，而pwd我输入的是00000，提交的 却是一段莫名字码）， 而且提交表单实际是通过Ajax来验证的，并且验证成功后转向/User/User的地址，那么问题至此就很清晰了。

三 写爬虫

# -*- coding:utf-8 -*- 
import urllib.request,urllib.parse
import re
import http.cookiejar
import time
current_time=lambda:int(round(time.time()*1000))  #生成13位的时间戳
LOGIN_URL = 'http://*******/Login/Index'	#主页URL
check_url='http://********/Login/LoginBySnoQuery'	#AjaxURL
code_url='http://********/Login/GetValidateCode'    #验证码URL
user_agent = r'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/44.0.2403.157 Safari/537.36'
headers = {'User-Agent': user_agent, 'Connection': 'keep-alive'}
cookie = http.cookiejar.MozillaCookieJar()
handler = urllib.request.HTTPCookieProcessor(cookie)
opener = urllib.request.build_opener(handler)

request = urllib.request.Request(LOGIN_URL,headers=headers)
response = opener.open(request)#先访问一次主页，获取一下cookie
request = urllib.request.Request(code_url+'?time='+str(current_time()),headers=headers)
code=opener.open(request).read()
with open('temp.gif','wb') as f:
    f.write(code)
code=input("code:")	#请求验证码，存到本地，人工识别后输入
password='000000'.encode('utf-8')	#将密码加密
password=base64.b64encode(password)
values = {'sno': '000000', 'pwd':password,'ValiCode':code,'remember':'0','uclass':'1','json':'true'}
postdata = urllib.parse.urlencode(values).encode(encoding='UTF8')
request=urllib.request.Request(check_url,data=postdata,headers=headers)page=opener.open(request).read().decode('utf-8')	#发送验证表单
#print(page)
request = urllib.request.Request('http://******/User/User',headers=headers)#转向个人页面page=opener.open(request).read().decode('utf-8')	#登录完成
#print(page)