Python自动化 -- Selenium获取请求的接口数据信息/浏览器Network的请求和响应

获取浏览器Network请求和响应

Selenium-获取请求的接口数据信息

Browsermob-Proxy是一个开源的Java编写的基于LittleProxy的代理服务。Browsermob-Proxy的具体流程有点类似与Flidder或Charles。即开启一个端口并作为一个标准代理存在，当HTTP客户端（浏览器等）设置了这个代理，则可以抓取所有的请求细节并获取返回内容。

需要java环境！

• 安装：

直接到项目的github上下载打好的压缩包即可:https://github.com/lightbody/browsermob-proxy/releases ，支持Linux和Windows。

window如下

• 安装对应的python包：

pip install browsermob-proxy

• 完整代码： 

import json
from browsermobproxy import Server
from selenium.webdriver.chrome.options import Options
from selenium import webdriver


if __name__ == '__main__':
    # 开启Proxy
    server = Server(r'D:\usr\data\browser\browsermob-proxy-2.1.4\bin\browsermob-proxy.bat')
    server.start()
    proxy = server.create_proxy()

    # 配置Proxy启动WebDriver
    chrome_options = Options()
    chrome_options.add_argument('--proxy-server={0}'.format(proxy.proxy))
    # 解决 您的连接不是私密连接问题
    chrome_options.add_argument('--ignore-certificate-errors')
    chrome_options.add_argument('--ignore-urlfetcher-cert-requests')

    driver = webdriver.Chrome(chrome_options=chrome_options)
    driver.implicitly_wait(20)

    proxy.new_har("douyin", options={'captureHeaders': True, 'captureContent': True})

    driver.get(url)

    result = proxy.har


    for entry in result['log']['entries']:
        _url = entry['request']['url']
        # 根据URL找到数据接口
        if "/hotel/list" in _url:
            _response = entry['response']
            _content = _response['content']['text']
            # 获取接口返回内容
            print(_content)
            # 读取信息
            person_json = json.loads(_content)
            hotels = (person_json["data"])["hotels"]
    

    server.stop()

 更多方法：

Python -- Selenium开启开发者工具（F12）

Python爬虫之selenium(全套操作)常用的定位元素与常用方法

自动化 selenium 库安装使用Python/Java

Python -- Selenium获取请求的接口数据信息/浏览器Network的请求和响应

Python一些常用方法-整理

python入门-从安装环境配置到做一个下班打卡提醒.exe小工具