初识 python - xpath 全解

目录

1、简介

2、选取节点

3、谓语

4、通配符

5、多路径选择

6、xpath 轴

7、常用的功能函数

---

 

1、简介

xpath 即为 XML 路径语言，它是一种用来确定 XML（标准通用标记语言的子集）文档中某部分位置的语言。xpath 基于 XML 的树状结构，有不同类型的节点，包括元素节点，属性节点和文本节点，提供在数据结构树中找寻节点的能力。起初 xpath 的提出的初衷是将其作为一个通用的、介于 XPointer 与 XSLT 间的语法模型。但是 xpath 很快被开发者采用来当作小型查询语言。

简单来说我们通过 xpath 可以获取 XML 中的指定元素和指定节点的值，在网络爬虫中我们通过会把爬虫获取的 HTML 数据转换成XML 结构，然后通过 xpath 解析，获取我们想要的结果。

接下来说下 xpath 的表达式以及用法。

 

2、选取节点

xpath 使用路径表达式在 XML 文档中选取节点，节点是通过沿着路径来选取的，通过路径可以找到我们想要的节点或者节点范围。

表达式	描述	用法	说明
nodename	选取此节点的所有子节点。	xpath(‘span’)	选取 span 元素的所有子节点
/	从根节点选取	xpath(‘/div’)	从根节点上选取div节点
//	从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。	xpath(‘//div’)	从当前节点选取含有 div 节点的标签
.	选取当前节点	xpath(‘./div’)	选取当前节点下的div标签
..	选取当前节点的父节点	xpath(‘../’)	回到上一级节点
@	选取属性	xpath(“//div[@id=’1001’]”)	获取 div 标签中，含有ID属性且值为1001的标签

 

3、谓语

谓语用来查找某个特定的节点或者包含某个指定的值的节点，谓语被嵌在方括号中。

表达式描述	用法说明
/bookstore/book[1]		选取属于 bookstore 子元素的第一个 book 元素。
/bookstore/book[last()]		选取属于 bookstore 子元素的最后一个 book 元素。
/bookstore/book[last()-1]		选取属于 bookstore 子元素的倒数第二个 book 元素。
/bookstore/book[position()<3]		选取最前面的两个属于 bookstore 元素的子元素的 book 元素。
//title[@lang]		选取所有拥有名为 lang 的属性的 title 元素。
//title[@lang='eng']		选取所有 title 元素，且这些元素拥有值为 eng 的 lang 属性。
/bookstore/book[price>35.00]		选取 bookstore 元素的所有 book 元素，且其中的 price 元素的值须大于 35.00。
/bookstore/book[price>35.00]/title		选取 bookstore 元素中的 book 元素的所有 title 元素，且其中的 price 元素的值须大于 35.00。

 

4、通配符

xpath 通配符可用来选取未知的 XML 元素，通配指定节点。

表达式	描述	用法	说明
*	匹配任何元素节点	xpath（/div/*）	选取 div 下的所有子节点
@*	匹配任何属性节点	xpath(/div[@*])	选取所有带属性的 div 节点
node()	匹配任何类型的节点	xpath(//div[@class=’tb_cls’]).node()	选择标签为 div 且类属性为 tb_cls 的所有标签

 

5、多路径选择

通过在路径表达式中使用 “|” 运算符，可以选取若干个路径。

用法	说明
xpath（//book/title |//book/price）	选取 book 元素的所有 title 和 price 元素。
xpath（//title| //price）	选取文档中的所有 title 和 price 元素

 

6、xpath 轴

轴可定义相对于当前节点的节点集。

表达式	描述	用法	说明
ancestor	选取当前节点的所有先辈（父、祖父等）	xpath(//div[@id=’123’]/ancestor::*)	选择标签为div且ID号为123的所有先辈标签
ancestor-or-self	选取当前节点的所有先辈（父、祖父等）以及当前节点本身	xpath(//div[@id=’123’]/ancestor-or-self::*)	选择标签为div且ID号为123的所有先辈标签且包含自己
attribute	选取当前节点的所有属性	xpath(//div[@id=’123’]/attribute::class)	选择标签为div且ID号为123的类属性名称
child	选取当前节点的所有子元素	xpath(//div[@id=’123’]/child::book)	选择标签为div且ID号为123的所有子元素的为book 节点
descendant	选取当前节点的所有后代元素（子、孙等）	xpath(./descendant::*)	返回当前节点的所有后代节点（子节点、孙节点）
following	选取文档中当前节点结束标签后的所有节点	xpath(./following::*)	选取文档中当前节点结束标签后的所有节点
parent	选取当前节点的父节点	xpath(./parent::*)	选取当前节点的父节点
preceding	选取文档中当前节点的开始标签之前的所有节点	xpath(//div[@id=’123’]/preceding::*)	选择标签为div且ID号为123的开始标签之前的所有节点
preceding-sibling	选取当前节点之前的所有同级节点	xpath(//div[@id=’123’]/preceding-sibling::*)	选择标签为div且ID号为123的之前的所有同级节点
self	选取当前节点	xpath(./self::*)	选取当前节点

 

7、常用的功能函数

使用功能函数能够更好的进行模糊搜索。

表达式	描述	用法	说明
starts-with	选取id值以ma开头的div节点	xpath(‘//div[starts-with(@id,”ma”)]‘)	选取id值以ma开头的div节点
contains	选取id值包含ma的div节点	xpath(‘//div[contains(@id,”ma”)]‘)	选取id值包含ma的div节点
and	选取id值包含ma和in的div节点	xpath(‘//div[contains(@id,”ma”) and contains(@id,”in”)]‘)	选取id值包含ma和in的div节点
text()	选取节点文本包含ma的div节点	xpath(‘//div[contains(text(),”ma”)]‘)	选取节点文本包含ma的div节点

 

---

这里说的仅是给出了语法，没有具体实例，原想在下面做一份，后来感觉还是去看官方文档吧，会更加详细，感兴趣的可看 ：xpath 教程 。