爬虫简单例子剖析

爬虫简单例子剖析_第1张图片

爬虫是什么?


官方说明:是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。

笔者认为:爬虫就是爬取网页上已经显示出来的数据。

爬虫技术难不难?


爬虫的实现可以有很多种,例如node.js,php,需要开发人员具备一定的html、javascript的专业知识。爬虫入门最好的实验网页是主要以列表展示的页面,因为它有固定的样式(方便我们遍历获取数据)。

爬虫简单例子剖析_第2张图片

爬虫准备!


基于NODE.JS,安装好NODE.JS,最好有NPM,使用 node xxx.js 执行爬虫文件。

爬虫简单例子剖析_第3张图片

这里是所需的一些模块,请使用 npm install 安装。

爬虫步骤!


1.要爬取页的URL(该URL可能带着重要的搜索筛选参数,一定要完整的URL)。

2.要爬取的数据(最好是能通过class获取到的元素的内容)。

3.处理爬取的数据(导入出为EXCEL或者直接插入数据库)。

4.抬抬头,扭扭脖子(放松一下完成爬虫大业的你)。

你可能感兴趣的:(Node-js)