知乎发现页面抓取(只改User-Agent爬虫)

代码

解释:
1. 这里设置的User-Agent其实是一个macbook上使用的版本。
2. 这里被注释掉的语句是我在书上看到的。捕捉到的内容不一样而已~(大家也可以看看)

import requests
import re

headers = {
    'User-Agent': 'Mozilla/5.0(Macintosh; Intel Mac OS X 10_11_4) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/52.0.2743.116 Safari/537.6'
}

r = requests.get('https://www.zhihu.com/explore', headers=headers)
# pattern = re.compile('explore-feed.*?question_link.*?>(.*?)', re.S)
pattern = re.compile('collection.*?blank.*?>(.*?)', re.S)
titles = re.findall(pattern, r.text)
print(titles)

输出

解释:
这里,你的输出很有可能会跟我的不一样。不过不用担心,因为知乎更新了这个页面而已~

['愿中国青年都摆脱冷气,只是向上走', '破千赞控', '谎言和幻觉', '寒冬鸡汤', '让世界变清晰的知识集']

知乎发现页面抓取(只改User-Agent爬虫)_第1张图片

你可能感兴趣的:(Python,计算机基础,爬虫)