WebCollector爬虫的种子

网络爬虫之所以能够不断找到新的网页,是因为它能够从已经爬取的页面中,提取出未爬取的超链接,但是当爬虫开启的时候,是没有已知网页的。所以我们需要告诉爬虫至少1个url,让爬虫通过爬取这个url对应的网页,来找到新的网页(通过超链接抽取)。

对于广度遍历来说,种子就是树的树根(森林的树根集合)。

例如下图,对http://www.apache.org/进行爬取,http://www.apache.org/就是种子。

WebCollector爬虫的种子_第1张图片


一般把爬虫的种子设为网站的首页。

你可能感兴趣的:(WebCollector爬虫的种子)