本文删繁就简,单刀直入,立刻上手selenium。
其他的可以参考[Selenium with Python](Selenium with Python — Selenium Python Bindings 2 documentation (selenium-python.readthedocs.io)
)
一、安装
建议使用Anaconda3。安装后,在Anaconda Prompt里敲:
pip install selenium
等待运行完毕。
下载Chrome的Driver,将其中的exe文件解压至C:\ProgramData\Anaconda3
下。
安装Chrome。请注意Chrome的Driver要与Chrome保持一致。
二、在python中使用selenium
大致解释一下什么是Driver。python的selenium的包是要通过Driver来操作Chrome浏览器的页面。
from selenium import webdriver #加载selenium的包
driver = webdriver.chrome() # 打开浏览器,这个浏览器专门用来被Driver操纵。当然,也可以正常点击使用。
driver.get("https://www.sogou.com/") # 访问网址
selenium的主要功能是模拟网页使用者进行操作,可以理解为网页版的按键精灵。
selenium运行的基本思路是,找到某个对象(比如输入框、按钮、下拉菜单、上传文件的按钮……),然后对它进行操作(点击按钮、复制表格、在输入框中输入文字……),然后周而复始。
所以,selenium的运行是可以理解为一个个动作组成的,这动作是:找对象+操作对象。
1 找对象(Locating Elements)
比如,想在搜索框里打上“天津”二字,那就得告诉selenium哪个是。这个定位的方式有很多,比如可以这样:
在搜索框上右键,选择“检查”:
然后就会弹出右侧的栏,里面定位于此:
先大概解释一下这段讲的是什么。开头的input
是代表的这个输入框的类型,然后剩下的type
、class
都是在描述它的特征。具体如何不管,但是只要这个搜索框它有这些“特征”,那我们就可以利用这些来定位,比如:
from selenium import webdriver #加载selenium的包
driver = webdriver.chrome() # 打开浏览器,这个浏览器专门用来被Driver操纵。当然,也可以正常点击使用。
driver.get("https://www.sogou.com/") # 访问网址
element1=driver.find_element_by_id('query') # element1定位好了
element1.send_keys('天津') # 打上“天津”二字
element1.clear()
当然,还可以用以下方式进行
find_element_by_id
find_element_by_name
find_element_by_xpath
find_element_by_link_text
find_element_by_partial_link_text
find_element_by_tag_name
find_element_by_class_name
find_element_by_css_selector
删掉的是我没用过的。其中xpath需要讲一讲。
比如搜狗首页,这个搜索框的xpath就是:
/html/body/div/div[2]/div[4]/form/span[1]/input
需要解释一下,[2]代表第2个的意思。比如/html/body/div/div[2]
,就是:
这种从根上一直写到需要找的位置的,叫绝对路径。当然,还有更简短的写法,就是相对路径,比如:
//form[@id='sf']/span[1]/input
将上面的那些方法(Method)对应到xpath的写法上,是:
方法(Method) | xpath写法 |
---|---|
find_element_by_id | [@id=] |
find_element_by_name | [@name=] |
find_element_by_xpath | - |
? | |
? | |
find_element_by_tag_name | [@tag=] |
find_element_by_class_name | [@tag=] |
? |
2 操作
一般常用的即是以下这些功能:
a 输入框
填入内容:.sendkeys('要填的内容')
清空:.clear()
获取里面的内容:.get_attribute('value')
b 普通文字
获取内容:.text
一般普通文字是被和
<\span>
包围着。在其他的对象上也可以有这个属性。
c 其他
那就是看见什么写什么。比如:
就可以写:
element2=driver.find_element_by_id('query')
print(element2.get_attribute('type'))
print(element2.get_attribute('class'))
print(element2.get_attribute('name'))
print(element2.get_attribute('maxlength'))
print(element2.get_attribute('id'))
print(element2.get_attribute('len'))
print(element2.get_attribute('autocomplete'))
d 下拉菜单
现在还没有遇到,等遇到再说。
3、对象需要等网页加载怎么办
等分为“明等”(Explicit wait)和“暗等”(Implicit wait)。明等是当满足一定条件时,如何如何,比如等按钮加载出来时,就按一下。暗等就是事先规定好等多长时间(以秒计),不受任何外部条件的控制。
a 暗等
from selenium import webdriver
driver = webdriver.chrome()
driver.implicitly_wait(10) # 10秒
driver.get("https://www.sogou.com/")
element1=driver.find_element_by_id('query')
b 明等
这就需要在前面多加载一些包了。不必理会它是什么意思,照抄能用就行。
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
driver = webdriver.chrome()
driver.get("https://www.sogou.com/")
element3=WebDriverWait(driver, 10).until(
EC.presence_of_element_located((By.ID, 'query'))
) # 等它加载出现后再填上字,其中的10代表10秒
element3.send_keys('天津') # 打上“天津”二字
其他的等的方式有:
title_is
title_contains
presence_of_element_located
visibility_of_element_located
visibility_of
presence_of_all_elements_located
text_to_be_present_in_element
text_to_be_present_in_element_value
frame_to_be_available_and_switch_to_it
invisibility_of_element_located
element_to_be_clickable
staleness_of
element_to_be_selected
element_located_to_be_selected
element_selection_state_to_be
element_located_selection_state_to_be
alert_is_present
4、有框架(frame)怎么办
所谓框架就是网页中套网页。但是selenium搞不定套娃,所以必须指定好是哪一层框架(frame)。
比如,想定位到这个框架里面的那个body,就得:
#前面的省略
element1=driver.find_element_by_xpath('/html/body/div/iframe') #先定位到这个框架
driver.switch_to.frame(element1) #再切换到这个框架内
#do something
driver.switch_to.default_content() #最后切换回一开始的框架内
如果想等框架出来再进入,则可以用wait:
# 前面的省略
element4=WebDriverWait(drive,30).until(
EC.frame_to_be_available_and_switch_to_it(
(By.XPATH,'/html/body/div/iframe')
)
)
# 运行完后,就进入了这个框架。其中的30代表最多等30秒。