python-selenium中的Xpath元素定位方法&爬虫实践

Xpath

xpath学习地址:XPath 教程

什么是xpath?

  • XPath是XML的路径语言,通俗一点讲就是通过元素的路径来查找到这个标签元素
  • XPath使用路径表达式在XML文档中进行导航

python-selenium中的Xpath元素定位方法&爬虫实践_第1张图片

  • 普通语法

python-selenium中的Xpath元素定位方法&爬虫实践_第2张图片

注意!

1.xpath中的值用引号引起来时,在代码中要注意区分,内单外双,内双外单。

2.xapth的class的值要填写全部,注意与find_element_by_class_name的区别。

3.xpath还支持逻辑运算符and/or,多用and来缩小范围,例如//*[@id='username' and @type='text']

4.要注意xpath中//input[1]代表第一个input标签,而不是用0,与python中的下标索引不同。

  • xpath轴语法

自动化测试中不常用,爬虫中常用,仅做了解。

学习网址:XPath Axes(轴)

ancestor#选取当前节点的所有先辈(父、祖父等)。
ancestor-or-self#选取当前节点的所有先辈(父、祖父等)以及当前节点本身。
attribute#选取当前节点的所有属性。
child#选取当前节点的所有子元素。
descendant#选取当前节点的所有后代元素(子、孙等)。
descendant-or-self#选取当前节点的所有后代元素(子、孙等)以及当前节点本身。
following#选取文档中当前节点的结束标签之后的所有节点。
namespace#选取当前节点的所有命名空间节点。
parent#选取当前节点的父节点。
preceding#选取文档中当前节点的开始标签之前的所有节点。
preceding-sibling#选取当前节点之前的所有同级节点。
self#选取当前节点。

selenium中使用xpath

为了练习,我自己想了个需求。

用selenium的xpath定位方式写一个脚本,获取微博热搜内容

步骤

1.打开微博官网https://weibo.com

2.找到热搜榜按钮位置,点击

3.找到热搜标题位置,获得文本

打开微博官网后我们找到热搜榜按钮,然后右键--检查,找到我们要点击的位置

python-selenium中的Xpath元素定位方法&爬虫实践_第3张图片

发现这个标签里的属性比较多,所以首先尝试用属性法看能不能找到

通过role='link'找到4个,不唯一。

换title试试

咦,如此简单么,找到了

接下来找热搜标题的xpath路径

先手动复制热搜榜前五标题的xpath路径

方法:选中标题位置--右键检查

python-selenium中的Xpath元素定位方法&爬虫实践_第4张图片

找到对应标签行后,再右键--复制--XPath

python-selenium中的Xpath元素定位方法&爬虫实践_第5张图片

得到前五条热搜名称的xpath路径,并观察规律

然后尝试精简路径。用尽可能短的路径定位到唯一元素(因为我发现路径太长,会概率性出现定位不到元素)

根据找到的规律(变化最明显的点和最有识别度的标签名称)对路径进行简化,经过无数次的调试(我太菜了)

精简后热搜第一名的可用路径为

//main/div//div[2]//*[starts-with(@class,'HotTopic_tit_')]

ok,xpath的路径准备好之后,就可以写代码了

from selenium import webdriver
from time import sleep
driver = webdriver.Firefox()#打开浏览器
url = 'https://weibo.com'
driver.get(url)#打开微博官网
sleep(5)
driver.find_element_by_xpath("//*[@title='热搜榜']").click()#找到热搜榜并点击
for i in range(2,7):
    sleep(1)
    print(f'此时此刻热搜第{i-1}名为:'+driver.find_element_by_xpath(
        f"//main/div//div[{i}]//*[starts-with(@class,'HotTopic_tit_')]").text)

结果如下

此时此刻热搜第1名为:张雪峰提议三胎家庭免学费
此时此刻热搜第2名为:浙江疫情
此时此刻热搜第3名为:读懂中央经济工作会议的深意
此时此刻热搜第4名为:医生建议看手机1小时后休息一下
此时此刻热搜第5名为:雪梨淘宝店铺被封

试了几次,成功率还是挺高的。

有点开心。

再整一下豆瓣的电影排行榜

from selenium import webdriver
from time import sleep
driver = webdriver.Firefox()
url = 'https:/douban.com'
driver.get(url)
driver.find_element_by_xpath('/html/body/div[1]/div[2]/div[1]/ul/li[2]/a').click()
#这用的完整的绝对路径
sleep(5)
driver.find_element_by_xpath("//div/ul/li/a[text()='排行榜']").click()
#找规律精简后的路径
for i in range(1,11):
    sleep(2)
    print(f'豆瓣排行榜第{i}名:'+driver.find_element_by_xpath(f'//table[{i}]//a[@class=""]').text)

结果如下:

豆瓣排行榜第1名:最后的决斗 / 最后决斗(港)
豆瓣排行榜第2名:毒液2 / 毒魔:血战大屠杀(港) / 猛毒2:血蜘蛛(台)
豆瓣排行榜第3名:倒数时刻 / 滴答,滴答……轰隆隆 / 梦想期限(港)
豆瓣排行榜第4名:芬奇 / 芬奇的旅程 / 生化
豆瓣排行榜第5名:不速来客 / 眼见为虚 / Knock Knock
豆瓣排行榜第6名:斯宾塞 / 斯潘塞 / 黛妃(台)
豆瓣排行榜第7名:Soho区惊魂夜 / 苏豪的最后一夜(港) / 迷离夜苏活(台)
豆瓣排行榜第8名:圣母 / 圣欲(港/台) / 圣母玛利亚
豆瓣排行榜第9名:红色通缉令 / 红色大贱谍
豆瓣排行榜第10名:古驰家族 / GUCCI名门望族(港) / Gucci:豪门谋杀案(台)

ps:这部分刚学的,所以代码中的xpath路径虽然能满足需求,但应该还有很多更优的写法,大家私下可以教教我。

总结:

  • webUI的自动化元素定位是分析网页的一个过程
  • 绝对路径不稳定,基本不用,前边随便一个爷爷变了,孙子就找不到了。
  • 学习时先在浏览器的F12调试界面多试,确定好后再复制到代码里
  • 路径法和属性法要结合使用,找到定位元素最准确且精简路径
  • 属性值和网址这些东西,能复制尽量不要手敲
  • 刚开始学不要过度使用‘复制Xptah’,还是要先会写,再复制。
  • 根据基础用法实在定位不到元素,还有轴定位(要能想起来)。

       

【技巧】xpath 获取当前节点下的所有子节点的值:

https://blog.csdn.net/qq_26235879/article/details/113090603

并且利用xpath的string()方法获取当前节点所有子节点的文本

你可能感兴趣的:(python,爬虫,python,selenium)