Python中PyQuery库的使用总结
Python中PyQuery库的使用总结
pyquery库是jQuery的Python实现，可以用于解析HTML网页内容。
from pyquery import PyQuery as pq
print('----1.可加载一段HTML字符串，或一个HTML文件，或是一个url地址----')
d1 = pq('hello ')
d2 = pq(url='http://movie.douban.com/subject/1309069/')
#d3 = pq(filename='result\\02-tieba\\16pn=1.html')
print('----2.html()和text() ——获取相应的HTML块或文本块----')
d1 = pq('hello ')
print(d1('html')) # hello
print(d1('html').html()) # hello
print(d1('html').text()) # hello
print('----3.根据HTML标签来获取元素----')
d=pq('test 1
test 2
')
print(d('p')) # test 1
test 2
print(d('p').html()) # test 1
print('----4.eq(index) ——根据给定的索引号得到指定元素----')
d=pq('test 1
test 2
')
print(d('p').html())
print(d('p').eq(0).html()) # test 1
print(d('p').eq(1).html()) # test 2
print(d('p').eq(2).html()) # None
print('----5.filter() ——根据类名、id名得到指定元素----')
d=pq("test 1
test 2
")
print(d('p').filter('#one')) # test 1
print(d('p').filter('.two')) # test 2
print('----6.find() ——查找嵌套元素----')
d=pq("test 1
test 2
")
print(d('div').find('p')) # test 1
test 2
print(d('div').find('p').eq(0)) # test 1
print('----7.直接根据类名、id名获取元素----')
d=pq("test 1
test 2
")
print(d('#one').html()) # test 1
print(d('.two').html()) # test 2
print('----8.获取属性值----')
d=pq("")
print(d('a').attr('href')) # http://hello.com
print(d('p').attr('id')) # my_id
print('----9.修改属性值----')
d=pq("")
print(d) #
d('a').attr('href','http://baidu.com')
print(d) #
print('----10.addClass(value) ——为元素添加类----')
d=pq('')
print(d) #
d.addClass('my_class')
print(d) #
print('----11.hasClass(name) #返回判断元素是否包含给定的类----')
d=pq("")
print(d.hasClass('my_class')) # True
print(d.hasClass('my_c')) # False
print('----12.children(selector=None) ——获取子元素----')
d=pq("hello
world
")
print(d.children()) # hello
world
print(d.children('#two')) # world
print('----13.parents(selector=None)——获取父元素----')
d=pq("hello
world
")
print(d('p').parents()) # hello
world
print(d('#one').parents('span'))# hello
world
print(d('#one').parents('p')) # []
print('----14.clone() ——返回一个节点的拷贝----')
d=pq("hello
world
")
print(d('#one')) # hello
print(d('#one').clone()) # hello
print('----15.empty() ——移除节点内容----')
d=pq("hello
world
")
print(d) # hello
world
d('#one').empty()
print(d) # world
print('----16.nextAll(selector=None) ——返回后面全部的元素块----')
d=pq("hello
world
![]()
")
print(d('p:first').nextAll()) # world
![]()
print(d('p:last').nextAll()) # ![]()
print('----17.not_(selector) ——返回不匹配选择器的元素----')
d=pq("hello
world
")
print(d('p').not_('#two')) # hello
'''
爬取豆瓣电影页面中主演
'''
if __name__ == '__main__':
print('----爬取豆瓣电影页面中主演----')
# 读取Batman Begins页面
doc = pq(url='http://movie.douban.com/subject/3077412/')
# 遍历starring节点
starring = doc("a[rel='v:starring']")
# 转化为Map
stars = starring.map(lambda i,e:pq(e).text())
print('<<%s>>的主演：' % (doc("span[property='v:itemreviewed']").text()))
for i in stars:
print(i)
'''
执行结果：
----爬取豆瓣电影页面中主演----
<<寻龙诀>>的主演：
陈坤
黄渤
舒淇
杨颖
夏雨
刘晓庆
颜卓灵
曹操
张东
黄西
僧格仁钦
'''GitHub 地址：https://github.com/Jueee/05-WebCrawlers/blob/master/22-PyQuery.py