来自google/百度的爬虫请求 user-agent

2019独角兽企业重金招聘Python工程师标准>>> hot3.png

分别收到了百度和谷歌的爬虫请求,都是get请求,下面是他们请求的user-agent

百度

服务器地址在北京 {city:"北京市", province:"北京市"}

Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

谷歌

服务器地址在芒廷维尤 {city:"芒廷维尤", province:"加利福尼亚州"}

Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2272.96 Mobile Safari/537.36 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

 

转载于:https://my.oschina.net/u/2931319/blog/3029215

你可能感兴趣的:(来自google/百度的爬虫请求 user-agent)