Xpath基本语法
一、常用的路径表达式:
表达式描述实例
nodename
选取nodename节点的所有子节点
//div
/
从根节点选取
/div
//
选取所有的节点,不考虑他们的位置
//div
.
选取当前节点
./div
..
选取当前节点的父节点
..
@
选取属性
//@calss
举例元素标签为artical标签
语法说明
artical
选取所有artical元素的子节点
/artical
选取根元素artical
./artical
选取当前元素下的artical
../artical
选取父元素下的artical
artical/a
选取所有属于artical的子元素a元素
//div
选取所有div 子元素,无论div在任何地方
artical//div
选取所有属于artical的div 元素,无论div元素在artical的任何位置
//@class
选取所有名为class 的属性的
a/@href
选取a标签的href属性
a/text()
选取a标签下的文本
string(.)
解析出当前节点下所有文字
string(..)
解析出父节点下所有文字
二、谓语
谓语被嵌在方括号内,用来查找某个特定的节点或包含某个制定的值的节点
语法说明
/artical/div[1]
选取所有属于artical 子元素的第一个div元素
/artical/div[last()]
选取所有属于artical子元素的最后一个div元素
/artical/div[last()-1]
选取所有属于artical子元素的倒数第2个div元素
/artical/div[position()<3]
选取所有属于artical子元素的前2个div元素
//div[@class]
选取所有拥有属性为class的div节点
//div[@class=”main”]
选取所有div下class属性为main的div节点
//div[price>3.5]
选取所有div下元素值price大于3.5的节点
三、通配符
Xpath通过通配符来选取未知的XML元素
表达式结果
//*
选取所有元素
//div/*
选取所有属于div元素的所有子节点
//div[@*]
选取所有带属性的元素
四、取多个路径
使用“|”运算符可以选取多个路径
表达式结果
//div | //table
选取文档中所有的div和table节点
//div/a | //div/p
选取所有div元素的a和p 元素
artical/div/pl | //span
选取所有div下的pl和文档中所有span
五、Xpath轴
轴可以定义相对于当前节点的节点集
轴名称表达式描述
ancestor
./ancestor::*
选取当前节点的所有先辈节点(父、祖父)
ancestor-or-self
./ancestor-or-self::*
选取当前节点的所有先辈节点以及节点本身
descendant
./descendant::*
返回当前节点的所有后代节点(子节点、孙节点)
child
./child::*
返回当前节点的所有子节点
parent
./parent::*
选取当前节点的父节点
following
./following::*
选取文档中当前节点结束标签后的所有节点
following-sibling
./following-sibling::*
选取当前节点之后的兄弟节点
preceding
./preceding::*
选取文档中当前节点开始标签前的所有节点
preceding-sibling
./preceding-sibling::*
选取当前节点之前的兄弟节点
self
./self::*
选取当前节点
attribute
./attribute::*
选取当前节点的所有属性
六、功能函数
使用功能函数能够更好的进行模糊搜索
函数用法解释
starts-with
//div[starts-with(@id,”ma”)]
选取id值以ma开头的div节点
contains
//div[contains(@id,”ma”)]
选取所有id值包含ma的div节点
and
//div[contains(@id,”ma”) and contains(@id,”in”)]
选取id值包含ma和in的div节点
text()
//div[contains(text(),”ma”)]
选取节点文本包含ma的div节点
注意事项:
1) 按照审查元素的写法不一定正确,要按照网页源码的才行
因为不一样,网页源码才是你看到的
2) 浏览器有自带的复制xpath功能,firefox下载firebug插件
3) xpath有c的速度,所以按照[@class=""]准确性较高
CCS选择器语法
语法说明
*
选择所有节点
#container
选择id为container的节点
.container
选择所有class包含container的节点
div,p
选择所有 div 元素和所有 p 元素
li a
选取所有li 下所有a节点
ul + p
选取ul后面的第一个p元素
div#container > ul
选取id为container的div的第一个ul子元素
ul ~p
选取与ul相邻的所有p元素
a[title]
选取所有有title属性的a元素
a[href=”http://baidu.com”]
a[href*=”baidu”]
选取所有href属性值中包含baidu的a元素
a[href^=”http”]
选取所有href属性值中以http开头的a元素
a[href$=”.jpg”]
选取所有href属性值中以.jpg结尾的a元素
input[type=radio]:checked
选择选中的radio的元素
div:not(#container)
选取所有id为非container 的div属性
li:nth-child(3)
选取第三个li元素
li:nth-child(2n)
选取第偶数个li元素
a::attr(href)
选取a标签的href属性
a::text
选取a标签下的文本
提取内容
方法返回
Selector.xpath()
返回SelectorList对象
Selector.css()
返回SelectorList对象
SelectorList.extract()
返回List对象
SelectorList.extract_first(default)
返回String对象,可以有默认值,类似dict.get(key, default)
Xpath语法笔记
一、选取节点
常用的路劲表达式:
表达式
描述
实例
nodename
选取nodename节点的所有子节点
xpath('//div')
选取了div节点的所有子节点
/
从根节点选取
xpath('/div')
从根节点上选取div节点
//
选取所有的当前节点,不考虑他们的位置
xpath('//div')
选取所有的div节点
.
选取当前节点
xpath('./div')
选取当前节点下的div节点
..
选取当前节点的父节点
xpath('..')
回到上一个节点
@
选取属性
xpath('//@calss')
选取所有的class属性
二、谓语
谓语被嵌在方括号内,用来查找某个特定的节点或包含某个制定的值的节点
实例:
表达式
结果
xpath('/body/div[1]')
选取body下的第一个div节点
xpath('/body/div[last()]')
选取body下最后一个div节点
xpath('/body/div[last()-1]')
选取body下倒数第二个div节点
xpath('/body/div[positon()<3]')
选取body下前两个div节点
xpath('/body/div[@class]')
选取body下带有class属性的div节点
xpath('/body/div[@class="main"]')
选取body下class属性为main的div节点
xpath('/body/div[price>35.00]')
选取body下price元素值大于35的div节点
三、通配符
Xpath通过通配符来选取未知的XML元素
表达式
结果
xpath('/div/*')
选取div下的所有子节点
xpath('/div[@*]')
选取所有带属性的div节点
四、取多个路径
使用“|”运算符可以选取多个路径
表达式
结果
xpath('//div|//table')
选取所有的div和table节点
五、Xpath轴
轴可以定义相对于当前节点的节点集
轴名称
表达式
描述
ancestor
xpath('./ancestor::*')
选取当前节点的所有先辈节点(父、祖父)
ancestor-or-self
xpath('./ancestor-or-self::*')
选取当前节点的所有先辈节点以及节点本身
attribute
xpath('./attribute::*')
选取当前节点的所有属性
child
xpath('./child::*')
返回当前节点的所有子节点
descendant
xpath('./descendant::*')
返回当前节点的所有后代节点(子节点、孙节点)
following
xpath('./following::*')
选取文档中当前节点结束标签后的所有节点
following-sibing
xpath('./following-sibling::*')
选取当前节点之后的兄弟节点
parent
xpath('./parent::*')
选取当前节点的父节点
preceding
xpath('./preceding::*')
选取文档中当前节点开始标签前的所有节点
preceding-sibling
xpath('./preceding-sibling::*')
选取当前节点之前的兄弟节点
self
xpath('./self::*')
选取当前节点
六、功能函数
使用功能函数能够更好的进行模糊搜索
函数
用法
解释
starts-with
xpath('//div[starts-with(@id,"ma")]')
选取id值以ma开头的div节点
contains
xpath('//div[contains(@id,"ma")]')
选取id值包含ma的div节点
and
xpath('//div[contains(@id,"ma") and contains(@id,"in")]')
选取id值包含ma和in的div节点
text()
xpath('//div[contains(text(),"ma")]')
选取节点文本包含ma的div节点
#!/usr/bin/env python
#-*- coding:utf-8 -*-
fromscrapy.selector import Selector, HtmlXPathSelectorfromscrapy.http import HtmlResponse
html= """
"""response= HtmlResponse(url='http://example.com', body=html,encoding='utf-8')
# hxs=HtmlXPathSelector(response)
# print(hxs)
# hxs= Selector(response=response).xpath('//a')
# print(hxs)
# hxs= Selector(response=response).xpath('//a[2]')
# print(hxs)
# hxs= Selector(response=response).xpath('//a[@id]')
# print(hxs)
# hxs= Selector(response=response).xpath('//a[@id="i1"]')
# print(hxs)
# hxs= Selector(response=response).xpath('//a[@href="link.html"][@id="i1"]')
# print(hxs)
# hxs= Selector(response=response).xpath('//a[contains(@href, "link")]')
# print(hxs)
# hxs= Selector(response=response).xpath('//a[starts-with(@href, "link")]')
# print(hxs)
# hxs= Selector(response=response).xpath('//a[re:test(@id, "i\d+")]')
# print(hxs)
# hxs= Selector(response=response).xpath('//a[re:test(@id, "i\d+")]/text()').extract()
# print(hxs)
# hxs= Selector(response=response).xpath('//a[re:test(@id, "i\d+")]/@href').extract()
# print(hxs)
# hxs= Selector(response=response).xpath('/html/body/ul/li/a/@href').extract()
# print(hxs)
# hxs= Selector(response=response).xpath('//body/ul/li/a/@href').extract_first()
# print(hxs)
# ul_list= Selector(response=response).xpath('//body/ul/li')
#for item inul_list:
# v= item.xpath('./a/span')
# # 或
# # v= item.xpath('a/span')
# # 或
# # v= item.xpath('*/a/span')
# print(v)