python+selenium使用笔记

本文删繁就简,单刀直入,立刻上手selenium。

其他的可以参考[Selenium with Python](Selenium with Python — Selenium Python Bindings 2 documentation (selenium-python.readthedocs.io)
)

一、安装

建议使用Anaconda3。安装后,在Anaconda Prompt里敲:

pip install selenium

等待运行完毕。

下载Chrome的Driver,将其中的exe文件解压至C:\ProgramData\Anaconda3下。

安装Chrome。请注意Chrome的Driver要与Chrome保持一致。

二、在python中使用selenium

大致解释一下什么是Driver。python的selenium的包是要通过Driver来操作Chrome浏览器的页面。

from selenium import webdriver #加载selenium的包

driver = webdriver.chrome() # 打开浏览器,这个浏览器专门用来被Driver操纵。当然,也可以正常点击使用。
driver.get("https://www.sogou.com/") # 访问网址


selenium的主要功能是模拟网页使用者进行操作,可以理解为网页版的按键精灵。

selenium运行的基本思路是,找到某个对象(比如输入框、按钮、下拉菜单、上传文件的按钮……),然后对它进行操作(点击按钮、复制表格、在输入框中输入文字……),然后周而复始。

所以,selenium的运行是可以理解为一个个动作组成的,这动作是:找对象+操作对象

1 找对象(Locating Elements)

搜狗的主页,打开网页后按F12即可打开右侧的栏

比如,想在搜索框里打上“天津”二字,那就得告诉selenium哪个是。这个定位的方式有很多,比如可以这样:

在搜索框上右键,选择“检查”:

然后就会弹出右侧的栏,里面定位于此:


先大概解释一下这段讲的是什么。开头的input是代表的这个输入框的类型,然后剩下的typeclass都是在描述它的特征。具体如何不管,但是只要这个搜索框它有这些“特征”,那我们就可以利用这些来定位,比如:

from selenium import webdriver #加载selenium的包

driver = webdriver.chrome() # 打开浏览器,这个浏览器专门用来被Driver操纵。当然,也可以正常点击使用。
driver.get("https://www.sogou.com/") # 访问网址

element1=driver.find_element_by_id('query') # element1定位好了
element1.send_keys('天津') # 打上“天津”二字
element1.clear()

当然,还可以用以下方式进行

find_element_by_id
find_element_by_name
find_element_by_xpath
find_element_by_link_text
find_element_by_partial_link_text
find_element_by_tag_name
find_element_by_class_name
find_element_by_css_selector

删掉的是我没用过的。其中xpath需要讲一讲。

比如搜狗首页,这个搜索框的xpath就是:

/html/body/div/div[2]/div[4]/form/span[1]/input

需要解释一下,[2]代表第2个的意思。比如/html/body/div/div[2],就是:

这种从根上一直写到需要找的位置的,叫绝对路径。当然,还有更简短的写法,就是相对路径,比如:

//form[@id='sf']/span[1]/input

将上面的那些方法(Method)对应到xpath的写法上,是:

方法(Method) xpath写法
find_element_by_id [@id=]
find_element_by_name [@name=]
find_element_by_xpath -
find_element_by_link_text
find_element_by_partial_link_text
find_element_by_tag_name [@tag=]
find_element_by_class_name [@tag=]
find_element_by_css_selector

2 操作

一般常用的即是以下这些功能:

a 输入框

填入内容:.sendkeys('要填的内容')
清空:.clear()
获取里面的内容:.get_attribute('value')

b 普通文字

获取内容:.text

一般普通文字是被<\span>包围着。在其他的对象上也可以有这个属性。

c 其他

那就是看见什么写什么。比如:


就可以写:

element2=driver.find_element_by_id('query')

print(element2.get_attribute('type'))
print(element2.get_attribute('class'))
print(element2.get_attribute('name'))
print(element2.get_attribute('maxlength'))
print(element2.get_attribute('id'))
print(element2.get_attribute('len'))
print(element2.get_attribute('autocomplete'))

d 下拉菜单

现在还没有遇到,等遇到再说。

3、对象需要等网页加载怎么办

等分为“明等”(Explicit wait)和“暗等”(Implicit wait)。明等是当满足一定条件时,如何如何,比如等按钮加载出来时,就按一下。暗等就是事先规定好等多长时间(以秒计),不受任何外部条件的控制。

a 暗等

from selenium import webdriver

driver = webdriver.chrome()
driver.implicitly_wait(10) # 10秒
driver.get("https://www.sogou.com/")
element1=driver.find_element_by_id('query') 

b 明等

这就需要在前面多加载一些包了。不必理会它是什么意思,照抄能用就行。

from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC

driver = webdriver.chrome()
driver.get("https://www.sogou.com/")
element3=WebDriverWait(driver, 10).until(
      EC.presence_of_element_located((By.ID, 'query'))
) # 等它加载出现后再填上字,其中的10代表10秒
element3.send_keys('天津') # 打上“天津”二字

其他的等的方式有:

title_is
title_contains
presence_of_element_located
visibility_of_element_located
visibility_of
presence_of_all_elements_located
text_to_be_present_in_element
text_to_be_present_in_element_value
frame_to_be_available_and_switch_to_it
invisibility_of_element_located
element_to_be_clickable
staleness_of
element_to_be_selected
element_located_to_be_selected
element_selection_state_to_be
element_located_selection_state_to_be
alert_is_present

4、有框架(frame)怎么办

所谓框架就是网页中套网页。但是selenium搞不定套娃,所以必须指定好是哪一层框架(frame)。

比如,想定位到这个框架里面的那个body,就得:

#前面的省略
element1=driver.find_element_by_xpath('/html/body/div/iframe') #先定位到这个框架
driver.switch_to.frame(element1) #再切换到这个框架内
#do something
driver.switch_to.default_content() #最后切换回一开始的框架内

如果想等框架出来再进入,则可以用wait:

# 前面的省略

element4=WebDriverWait(drive,30).until(
  EC.frame_to_be_available_and_switch_to_it(
      (By.XPATH,'/html/body/div/iframe')
   )
)
# 运行完后,就进入了这个框架。其中的30代表最多等30秒。

你可能感兴趣的:(python+selenium使用笔记)