pyppeteer使用代理隧道问题以及代码

代理写法
阿布云代理隧道代码

import random
def Proxies():
    proxyHost = "http-dyn.abuyun.com"
    proxyPort = "9020"
    # 代理隧道验证信息

    proxyServer = "http://" + proxyHost + ":" + proxyPort




    return proxyServer
def Authens():
    proxyUser = "你的代理账号"
    proxyPass = "你的代理密码"
    authen = {"username": proxyUser, "password": proxyPass}
    return authen

pyppeteer使用隧道代理demo

import asyncio
from IP_Proxies import Proxies,Authens
from pyppeteer import launch
async def main(url):
  browser = await launch(headless=True, args=['--disable-infobars', "--proxy-server=" + Proxies()])   # headless=True 启动了无头模式,--proxy-server 启动了代理
  page = await browser.newPage()
  await page.authenticate(Authens())          # 输入代理账号密码
  # await page.setExtraHTTPHeaders(Proxies())            # 在pyppeteer中和puppeteer是一样的,都不能把隧道加在args里,只能加在headers里

  await page.goto(url)
  await page.evaluate('''() =>{ Object.defineProperties(navigator,{ webdriver:{ get: () => false } }) }''')
  await asyncio.sleep(3)
  await page.screenshot({'path':str(name)})                  # 截图
  print(await page.content())
  await asyncio.sleep(3)
  await browser.close()


asyncio.get_event_loop().run_until_complete(main(url))     # 启动项目

在python爬虫中pyppeteer是一个很好用的测试工具,但是在百度上很少能找到pyppeteer的资料,pyppeteer是从node.js中的puppeteer中转变过来的,所以有任何的问题在puppeteer中找就可以找到

还有一些问题是pyppeteer在linux中要在args中添加一个字段'--no-sandbox'

推荐一些博客,这些博客给了我很多的帮助
https://aaron-bird.github.io/2019/04/22/puppeteer%E5%85%A5%E9%97%A8/

https://www.ddnpc.com/puppeteer-error.html

puppeteer中文手册

一个全栈爬虫的博客

pyppeteer官方文档

你可能感兴趣的:(pyppeteer使用代理隧道问题以及代码)