序:python强大的功能,可以爬取网上的某些信息,本次主要是通过爬歌单信息熟悉下python基础。
用到知识点:
1、python3、urllib.request.openurl
2、json (json字符串解析为python对象)
3、python 文件操作,爬取到的信息写入txt文本。
4、list、dict相关操作、遍历,str字符截取。
5、字符编码相关utf-8
首先,我们要先分析要爬取的内容,我们要获取到的是歌单的歌曲和歌手信息,那么我们就是要想办法知道歌单下的歌曲信息在网页的那部分。
于是我们按F12切换浏览器到开发者模式,定位到歌曲名称:
歌曲名称在标签下的标签中,那我们获取到网页内容,用正则或者bs4解析出这部分就可以了。于是我们开始写代码。
歌单地址:https://y.qq.com/n/yqq/playlist/2069407274.html#&dirid=8
可是高兴得太早了,我们用python获取到的歌单网址的内容中,并没有找到歌曲的相关信息,也就是歌单网址返回的html代码并没有歌曲信息,那我们猜测就是通过js获取的了,于是,我们还是要分析请求网页的过程,浏览器F12,切换到网络模式,刷新网页
于是我们就是要一个个寻找有没有哪个链接是返回歌曲信息数据,看到下面的图没有,响应的信息就是歌单的信息,并且有歌曲信息,返回的是json格式的数据,那这样我们就是通过下面找到的链接,请求链接得到响应的json字符串,然后用python去解析。
我们先定义个url:
url='https://c.y.qq.com/qzone/fcg-bin/fcg_ucc_getcdinfo_byids_cp.fcg?type=1&json=1&utf8=1&onlysong=0&disstid=2069407274&format=jsonp&g_tk=1919827772&jsonpCallback=playlistinfoCallback&loginUin=0&hostUin=0&format=jsonp&inCharset=utf8&outCharset=utf-8¬ice=0&platform=yqq&needNewCode=0'
htmlreq=urllib.request.urlopen(url)
htmldoc=htmlreq.read().decode('utf-8')
#print(htmldoc)#获取网页内容
以上代码获取到url链接返回的数据,注意,read的时候要加字符编码.decode('utf-8')不然中文会出现乱码。
获取到的json字符串如下,是的,这个并不是严格的json字符串,前面包含了playlistinfoCallback()
要得到规范的json字符串,我们需要把playlistinfoCallback()去掉
#把playlistinfoCallback(......)去掉,只留...的json数据
mydata=htmldoc[21:len(htmldoc)-1]
我们把得到的json字符串复制到网上的json在线解析的网站上格式化下,得到如下json数据;
分析json数据,歌曲信息是在songlist下面,是一个list,每首歌是一个json字典对象。
#解析json字符串,转换为python对象
jsondata=json.loads(mydata)
#print(type(jsondata)) 解析json后得到的是python dict字典对象
cdlist=jsondata.get('cdlist')
cdlistDict=cdlist[0]
#print(cdlistDict)
songlist=cdlistDict.get('songlist')
上面代码是python解析json字符串后,得到的python对象,是dict 字典,字典下面又包含有list,list下面又包含有dict对象,于是,我们就需要访问这些对象,得到我们的歌曲和歌手信息。
我们需要遍历里面的list对象,跟进键值对找到相应信息。
songlist=cdlistDict.get('songlist')
#这段是打印的
for i in songlist:
print('歌曲名:'+i.get('songname') )
#+ ' 歌手:'+i.get('singer')[0].get('name')+'&'+i.get('singer')[1].get('name'))
for j in i.get('singer'):
print('歌手:'+j.get('name'))
print('\n')
歌手信息是list[]类型,有些有一个,有些有两个歌手,于是我们不管,直接for循环遍历把歌手信息都遍历出来。
我们打印出的就是我们想要的歌单的歌曲信息。下面我们要考虑如何保存到txt文本文件里。
#打开文件,注意编码:utf-8,不然写到txt里的中文会乱码。
f=open('song.txt', 'w',encoding='utf8')
for i in songlist:
f.writelines('歌曲名:'+i.get('songname')+'\t'+'\t'+'\t'+'歌手:')
for j in i.get('singer'):
f.writelines(j.get('name')+'\t')
f.writelines('\n')
for循环遍历,写入txt文件中。
最后,记得f.close()关闭。
下面就是我们得到的txt文本文件,里面包含了歌单的歌曲和歌手信息。