Chrome安装爬虫必备插件:Xpath Helper高效解析网页内容

Chrome安装爬虫必备插件:Xpath Helper(最新教程)

文章目录

    • 1. 谷歌浏览器xpath helper插件的安装和使用
    • 2. 谷歌浏览器xpath helper插件的作用
    • 3. 谷歌浏览器xpath helper插件的安装和使用
      • 3.1 xpath helper插件的安装
        • 1.下载Chrome插件 XPath Helper
    • 4. XPath调试
    • 5. 附加内容

1. 谷歌浏览器xpath helper插件的安装和使用

要想利用lxml模块提取数据,需要我们掌握xpath语法规则。接下来我们就来了解一下xpath helper插件,它可以帮助我们得到页面的xpath语句

2. 谷歌浏览器xpath helper插件的作用

xpath helper插件是一款免费的Chrome爬虫网页解析工具。

可以帮助用户解决在获取xpath路径时无法正常定位等问题。

该插件主要能帮助你在各类网站上通过按shift键选择想要查看的页面元素来提取查询其代码,同时你还能对查询出来的代码进行编辑,而编辑出的结果将立即显示在旁边的结果框中。

3. 谷歌浏览器xpath helper插件的安装和使用

我们以windows为例进行xpath helper的安装

3.1 xpath helper插件的安装

1.下载Chrome插件 XPath Helper

Chrome安装爬虫必备插件:Xpath Helper高效解析网页内容_第1张图片

可以在chrome应用商城进行下载,如果无法下载,也可以从下面的链接进行下载

下载地址:链接:https://pan.baidu.com/s/1DVfxg4hnXB4dHJHhb6Wfrg
提取码:srp9

把文件夹拖入到开启开发者模式的chrome浏览器扩展程序界面
Chrome安装爬虫必备插件:Xpath Helper高效解析网页内容_第2张图片

重启浏览器后,访问url之后在页面中点击xpath图标,就可以使用了

4. XPath调试

安装好Xpath Helper后,我们再来抓取共产党新闻网文章xpath 路径。

打开xpath-helper工具
按住shift键,选择要提取xpathl路径的元素,提取的结果将被显示在旁边的 Result 文本框中。
Chrome安装爬虫必备插件:Xpath Helper高效解析网页内容_第3张图片

5. 附加内容

写过爬虫和网页解析的人都知道,在定位、获取xpath路径上要花费大量的时间,甚至有时候当爬虫框架成熟之后,基本上主要的时间都花费在了页面的解析上。

在没有这些辅助工具的日子里,我们只能通过搜索html源代码,定位一些id去找到对应的位置,非常的麻烦,而且经常出错。

这里分享一个chrome浏览器的小技巧:

比如: 现在我们在抓取 共产党新闻网的文章xpath 路径

打开 开发者工具,鼠标选中标题元素上,右键–>Copy XPath 即可获取xpath。
执行copy xpath,获取标题元素在当前父节点的xpath

/html/body/div[6]/div[1]/ul[1]/li[1]/a

Chrome安装爬虫必备插件:Xpath Helper高效解析网页内容_第4张图片

1
执行copy full xpath,获取标题元素的在html文档中的完整xpath
Chrome安装爬虫必备插件:Xpath Helper高效解析网页内容_第5张图片

/html/body/div[6]/div[1]/ul[1]/li[1]/a

这样其实还不够方便,毕竟你复制了没法即时查看正确与否。所以我们需要上面这款开源的爬虫利器!

你可能感兴趣的:(chrome,爬虫)