XPath解析方式的具体使用

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档

文章目录

  • 前言
  • 一、XPath原理
  • 二、XPath节点关系
    • 2、1父
    • 2、2子
    • 2、3同胞
    • 2、4先辈
    • 2、5后代
  • 三、什么是XPath
    • 3、1选取节点
    • 3、2选取未知节点
    • 3、3选取若干路径
  • 四、lxml库使用
    • 4.1初步使用
    • 4.2XPath实例测试
  • 总结


前言

上一篇讲到了BeautifulSoup的使用方法以及案例。
有兴趣的小伙伴可以亲自动手试一下案例模仿
本篇着重讨论XPath解析方法的使用

提示:以下是本篇文章正文内容,下面案例可供参考

一、XPath原理

XPath原理:先将HTML文档转为XML文档,再用XPath查找HTML节点或元素
XPath解析方式的具体使用_第1张图片
XML更倾向于传输数据,数据的内容

二、XPath节点关系

2、1父

XPath解析方式的具体使用_第2张图片

2、2子

XPath解析方式的具体使用_第3张图片

2、3同胞

XPath解析方式的具体使用_第4张图片

2、4先辈

XPath解析方式的具体使用_第5张图片

2、5后代

XPath解析方式的具体使用_第6张图片

三、什么是XPath

XPath是一门在XML文档中查找信息的语言,可以用来在XML文档中对元素和属性进行遍历

3、1选取节点

XPath使用路径表达式来选取XML文档中的节点或者节点集,这些路径表达式和我们在常规电脑文件系统里看到的表达式非常相似
XPath解析方式的具体使用_第7张图片
XPath解析方式的具体使用_第8张图片

3、2选取未知节点

XPath通配符可以用来选取未知的XML元素
XPath解析方式的具体使用_第9张图片
在下面表格中,我们列举出一些路径表达式,以及这些表达式的结果:
XPath解析方式的具体使用_第10张图片

3、3选取若干路径

通过在路径表达式中使用 “|” 运算符,可以选取若干路径
XPath解析方式的具体使用_第11张图片
以上就是XPath的语法内容,在运用python抓取时要先转换为xml

四、lxml库使用

XPath解析方式的具体使用_第12张图片
安装:pip install lxml

4.1初步使用

XPath解析方式的具体使用_第13张图片
XPath解析方式的具体使用_第14张图片
XPath解析方式的具体使用_第15张图片
主要是
1、etree.HTML(html)转换为xml文档
2、通过etree.tostring()输出转换后的html代码
3、通过decode()方法转换为str类型

lxml可以自动修正HTML代码,例子里不仅补全了li标签,还添加了body,html标签

4.2XPath实例测试

1、获取所有的 < li > 标签

XPath解析方式的具体使用_第16张图片
XPath解析方式的具体使用_第17张图片
2、获取< li > 标签所有的class属性

XPath解析方式的具体使用_第18张图片
3、获取< li > 标签下 < a> 标签里的所有href
在这里插入图片描述
4、继续获取< li > 标签下 href为link1.html的< a>标签的文本内容

XPath解析方式的具体使用_第19张图片

总结

1、只要涉及到条件,加[]
2、只要获取属性值 加@
3、通过text()获取内容

你可能感兴趣的:(爬虫,java,服务器,数据库)