简单NodeJS爬虫和使用cookie进行模拟登录

       NodeJS做爬虫也是很方便的。因为nodejs有HTTP模块直接可以使用,而且还有很多简单粗暴的库可以即拿即用。

      首先,需要的库文件,

      1、superagent 是个轻量的的 http 方面的库,就像jquery的post,和get一样,很简单。

      2、cheerio是一个服务端操作DOM的库,简直就是服务端的jquery。


     好的,我们需要抓取某个网站的题目。如下图。这个系统下,及时是游客状态也是可以查看题目的,只是答案我们看不到。会显示我没有登录。


简单NodeJS爬虫和使用cookie进行模拟登录_第1张图片

现在我们有个需求,先抓取15页,根据URL的参数可以页数就是地址中 的P。并且要有本地cookie,获取cookie的方法,最简单的是,利用浏览器登录网站之后,在控制台直接打印document.cookie,得到之后,复制进txt文本。用fs模块读取并转换成字符串。在superagent请求时,把cookie传进去。


简单NodeJS爬虫和使用cookie进行模拟登录_第2张图片


简单NodeJS爬虫和使用cookie进行模拟登录_第3张图片

好了,控制台已经不输出“未登录”,说明已经登录成功了。

你可能感兴趣的:(简单NodeJS爬虫和使用cookie进行模拟登录)