本篇文章用于记录如何实现知乎模拟登录
本篇采用firefox浏览器,按F12开发者工具来进行HTTP交互的获取和分析。需要设置开发者工具中的preserve log选项,否则会因为HTTP交互过多,无法参考中间过程的HTTP请求和回应
登录知乎,通过开发者工具来查看HTTP交互,发现实际的登录地址为https://www.zhihu.com/login/email. 这是我们使用email进行登录,如果使用手机号码进行登录,那么实际的登录地址为http://www.zhihu.com/login/phone_num.
该登录是通过post方式实现,所以我们需要查看并分析postdata。
需要特别提到的是_xsrf,它是页面校验码,用来检查你是否是从正常的登录页面过来的,从而防止跨站点请求伪造。这个参数是动态变化的,所以不能获取一次后就一劳永逸,通过html中使用正则表达式匹配出来.
如果只是把以上数据post过去不一定会成功,因为很有可能需要验证码。关于验证码的网页地址,在页面的html中可以看到,但通过程序读取的内容中确搜不到。通过在https://www.zhihu.com/question/29925879的最高票的答案,可以知道验证码的网址由时间戳组成。
t = str(int(time.time()*1000))
captcha_url = 'http://zhihu.com/captcha.gif?r='+t+"&type=login"
关于验证码的识别,在本文章中使用手动输入进行识别。以后会尝试自动进行图片验证码的识别,传统的机器学习算法可能有一定困难,但通过卷积神经网络等深度学习算法可以拥有不俗的识别率,在之后的进阶版中将会集成卷积神经网络。
在进行模拟登录前,需要记录该网站的Cookie。Cookie就是保存在用户端的经过加密的数据,从而实现Session跟踪。某些网站通过Cookie来识别用户身份,某些网页需要登录后才能访问,通过加载Cookie后就可以进行访问并爬取。关于session和cookie的详解可以参考这篇文章http://blog.csdn.net/fangaoxin/article/details/6952954/
可以先通过访问https://www.zhihu.com/settings/profile 来判断是否登录,如果没有登录,知乎会将你的访问进行重定向,所以返回的HTTP状态码就是301或302。
本篇的实现代码:https://github.com/EdwardLee0331/zhihuLogin
觉得好的可以打个star