Heritrix3.1.0的使用

阅读更多



1.在cmd下面进入Heritrix的bin目录下

输入heritrix -a admin:admin,弹出新窗口,新窗口中运行heritrix

2.浏览中输入https://localhost:8443/

得到界面如下

第一个输入框中写入任意Job名称,如s

第二个输入框如果不写则默认存储在bin目录下的jobs文件夹下Heritrix3.1.0的使用_第1张图片

3.点击create后:

Heritrix3.1.0的使用_第2张图片

4.点击"s"任务:

crawler-beans.cxml是配置本次抓取网页的配置文件

Heritrix3.1.0的使用_第3张图片

5.点击edit:

修改配置文件中的内容,点击左上角的"save change"保存本次修改

第一个参数:可以填写你的ip(好像用了路由器的网络就不行了,不知是不是我弄错了?)

第二个参数:填写你的Job名称(和前面填写的一致)

第三个参数:填写描述

添加要爬取的网页

此处修改最后一个属性:把Version改为3.1.0,后面为你的联系方式(如果不填可能有的网站会拒绝被抓取

Heritrix3.1.0的使用_第4张图片

返回job界面,build->launch->刷新->uppause,会看到Job的状态为Running

 

  • Heritrix3.1.0的使用_第5张图片
  • 大小: 6.5 KB
  • Heritrix3.1.0的使用_第6张图片
  • 大小: 11.1 KB
  • Heritrix3.1.0的使用_第7张图片
  • 大小: 6.7 KB
  • Heritrix3.1.0的使用_第8张图片
  • 大小: 7 KB
  • Heritrix3.1.0的使用_第9张图片
  • 大小: 3.3 KB
  • Heritrix3.1.0的使用_第10张图片
  • 大小: 2.5 KB
  • 查看图片附件

你可能感兴趣的:(Heritrix3.1.0,网络爬虫,使用)