python+requests+xpath爬虫中文乱码

在爬虫时,经常遇到中文乱码,其实在requests获取response时进行转码即可
代码:

def crawler():
    baseurl="http://www.weather.com.cn/weather/101010100.shtml"
    r=requests.get(url=baseurl)
    r.encoding="utf-8"
    res=r.text
    html=etree.HTML(res)
    #
    data=html.xpath("//li[@class='sky skyid lv4 on'][1]//p[@class='tem']//text()")
    print(data)
crawler()
=================================
['\n', '15', '/', '3℃', '\n']

此时爬取到的数据就是中文的了。

你可能感兴趣的:(python+requests+xpath爬虫中文乱码)