python爬虫 selector xpath提取网页内容

xpath提取网页内容 selector模块
XML 节点选择

表达式 描述
nodename 选取此节点的所有子节点。
/ 从根节点选取。
// 从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。
. 选取当前节点。
… 选取当前节点的父节点。
@ 选取属性。
bookstore 选取 bookstore 元素的所有子节点。
/bookstore 选取根元素 bookstore。
bookstore/book 选取属于 bookstore 的子元素的所有 book 元素。
//book 选取所有 book 子元素，而不管它们在文档中的位置。
bookstore//book 选择属于 bookstore 元素的后代的所有 book 元素，而不管它们位于 bookstore 之下的什么位置。
//@lang 选取名为 lang 的所有属性。
谓语路径表达式 结果：
/bookstore/book[1] 选取属于 bookstore 子元素的第一个 book 元素。
/bookstore/book[last()] 选取属于 bookstore 子元素的最后一个 book 元素。
/bookstore/book[last()-1] 选取属于 bookstore 子元素的倒数第二个 book 元素。
/bookstore/book[position()❤️] 选取最前面的两个属于 bookstore 元素的子元素的 book 元素。
//title[@lang] 选取所有拥有名为 lang 的属性的 title 元素。
//title[@lang=‘eng’] 选取所有 title 元素，且这些元素拥有值为 eng 的 lang 属性。
/bookstore/book[price>35.00] 选取 bookstore 元素的所有 book 元素，且其中的 price 元素的值须大于 35.00。
/bookstore/book[price>35.00]/title 选取 bookstore 元素中的 book 元素的所有 title 元素，且其中的 price 元素的值须大于 35.00。
通配符 描述

• 匹配任何元素节点。
  @* 匹配任何属性节点。
  node() 匹配任何类型的节点。
  /bookstore/* 选取 bookstore 元素的所有子元素。
  //* 选取文档中的所有元素。
  //title[@*] 选取所有带有属性的 title 元素。
  选取若干路径 表达式 结果
  //book/title | //book/price 选取 book 元素的所有 title 和 price 元素。
  //title | //price 选取文档中的所有 title 和 price 元素。
  /bookstore/book/title | //price 选取属于 bookstore 元素的 book 元素的所有 title 元素，以及文档中所有的 price 元素。
  例：
  准备要提取的内容

html=’’’

Harry Potter 29.99

123456

Learning XML 39.95 3333333333333333 4444444444444444 '''

1.转换成对象，
提取所有book标签

from scrapy.selector import Selector
selector = Selector(text=html) #转换成一个对象
print(selector) #自动添加标签
#//book 选取所有book标签
print(selector.xpath(’//book’))

2.获取第二个book标签

方法一 列表下标

print(selector.xpath(’//book’)[1])

方法二 xpath字符串类，，下标从一开始

选取某某内的第一个（只要是第一个都可以）

print(selector.xpath(’//book[1]’)[1])

#方法三,找父类，再定位指定的位置
print(1,selector.xpath(’//div’)[0].xpath(’./book[1]’)) #返回一个列表
print(2,selector.xpath(’//div’)[0].xpath(’./book[1]’)[0])
print(3,selector.xpath(’//div’)[0].xpath(’./book’))
print(4,selector.xpath(’//div’)[0].xpath(‘book’))
print(5,selector.xpath(’//div’)[0].xpath(‘book’)[0])

3. @表示的是某某标签内的属性（

   ）
   print(selector.xpath(’//@lang’))
   #指定属性
   print(selector.xpath(’//title[@lang=“eng2”]’))

/的使用（绝对路径）
print(selector.xpath(’/html/body/bookstore/book/div/book’))
bookstort = selector.xpath(’//bookstore’)[0]
print(bookstort.xpath(’./book/div/book’))
取最后一个book和倒数第二个book,输出前三个book
print(bookstort.xpath(’./book[last()]’))
print(bookstort.xpath(’./book[last()-1]’))
#输出前三个(选择相应的位置)
print(bookstort.xpath(’./book[position()<4]’))

有纯数字可以按条件选择
print(bookstort.xpath(’./book[price>35]’))

选取多个标签
print(bookstort.xpath(’//title|//price’))