Python3爬虫之urllib使用

这里是一个小demo，用来模拟一个百度搜索，并保存搜索到的页面

import urllib.request
import urllib.parse

kw = input('请输入您要搜索的内容：')
data = {
    'wd':kw,
}
data = urllib.parse.urlencode(data)  #url编码，否则就使用不了这个url
url = 'https://www.baidu.com/s?wd=' + data
headers = {
    'User-Agent':'Mozilla/5.0 (Macintosh; U; Intel Mac OS X 10_5_6; en-US) AppleWebKit/530.9 (KHTML, like Gecko) Chrome/ Safari/530.9 '
}
request = urllib.request.Request(url = url,headers=headers)
response = urllib.request.urlopen(request)
with open('hh.html','w',encoding='utf8') as fp:  #这里使用，encoding进行编码才可以解决保存问题
    fp.write(response.read().decode('utf8'))
fp.close()