Python爬虫学习（四）Beautiful Soup库入门

（四）Beautiful Soup库入门

BeautifulSoup库官方文档

(1) Beautiful Soup库基本元素

• Beautiful Soup库是解析、遍历、维护“标签树”的功能库

<p class="title">...p>

<p>..p>	 :标签 Tag
	p		 :名称 Name （成对出现）
class='title':属性 Attributes （0个或多个）

• BeautifulSoup对应一个HTML/XML文档的全部内容

from bs4 import BeautifulSoup
soup1 = BeautifulSoup("data","html.parser")
soup2 = BeautifulSoup("open("D://demo.html")","html.parser")

(2) BeautifulSoup库解析器

解析器	使用方法	条件
bs4的HTML解析器	BeautifulSoup(“mk”,“html.parser”)	安装bs4库
lxml的HTML解析器	BeautifulSoup(“mk”,“lxml”)	pip install lxml
lxml的XML解析器	BeautifulSoup(“mk”,“xml”)	pip install lxml
html5lib的解析器	BeautifulSoup(“mk”,“html5lib”)	pip install html5lib

(3) BeautifulSoup类的基本元素

例：
...

基本元素	说明
Tag	标签，最基本的信息组织单元，用<>和标记开头和结尾
Name	标签的名字， … 的名字是’p’，格式：.name
Attributes	标签的属性，字典形式组织，格式：.attrs
NavigableString	标签内非属性字符串，<>…中字符串，格式：.string
Comment	标签内字符串的注释部分，一种特殊的Comment类型

from bs4 import BeautifulSoup
soup = BeautifulSoup(demo,"html.parser")
soup.title		#获得标题
soup.a			#格式：soup.，文档中存在多个相同，只返回第一个
soup.find_all('a')	#找到文档中所有的标签
soup.get_text()		#从文档中获取所有文字内容

#获取的名字，格式：.name，字符串类型
soup.a.name		
soup.a.parent.name
soup.a.parent.parent.name

#一个可以有0或多个属性，字典类型
tag.attrs
tag.attrs['class']

#NavigableString类型可以跨越多个层次
soup.a.string		#bs4.element.NavigableString类型

#Comment是一种特殊类型
newsoup = BeautifulSoup("
This is not a comment
","html.parser")
newsoup.b.string	#bs4.element.Comment类型
newsoup.p.string	#bs4.element.NavigableString类型

(4) 基于bs4库的HTML内容遍历方法

1.标签树的下行遍历

• BeautifulSoup类型是标签树的根节点

属性	说明
.contents	子节点的列表，将所有儿子节点存入列表
.children	子节点的迭代类型，与.contents类似，用于循环遍历儿子节点
.descendants	子孙节点的迭代类型，包含所有子孙节点，用于循环遍历

soup = BeautifulSoup(demo, "html.parser")
soup.head				#获取head
soup.head.contents		#获取head的子节点列表
soup.body.contents		#获取body的子节点列表
len(soup.body.contents)	#获取body的子节点列表长度
soup.body.contents[1]

#下行遍历儿子节点
for child in soup.body.children:
    print(child)
    
#下行遍历子孙节点
for child in soup.body.descendants:
    print(children)

2.标签树的上行遍历

属性	说明
.parent	节点的父亲标签
.parents	节点先辈标签的迭代类型，用于循环遍历先辈节点

#遍历所有先辈节点，包括soup本身，所以要区别判断
soup = BeautifulSoup(demo, "html.parser")
for parent in soup.a.parents:
	if parent is None:
    	print(parent)
   	else:
        print(parent.name)

3.标签树的平行遍历

属性	说明
.next_sibling	返回按照HTML文本顺序的下一个平行节点标签
.previous_sibling	返回按照HTML文本顺序的上一个平行节点标签
.next_siblings	迭代类型，返回按照HTML文本顺序的后续平行节点标签
.previous_siblings	迭代类型，返回按照HTML文本顺序的前续平行节点标签

#遍历后续节点
for sibling in soup.a.next_sibling:
	print(sibling)

#遍历前续节点    
for sibling in soup.a.previous_sibling:
	print(sibling)

(5) 基于bs4库的HTML格式输出

#美化输出
#.prettify()为HTML文本<>及其内容增加了'\n'
soup.prettify()
#.prettify()可用于标签
soup.a.prettify()

节点标签 |
| .previous_sibling | 返回按照HTML文本顺序的上一个平行节点标签 |
| .next_siblings | 迭代类型，返回按照HTML文本顺序的后续平行节点标签 |
| .previous_siblings | 迭代类型，返回按照HTML文本顺序的前续平行节点标签 |

[外链图片转存中…(img-mxfhEfda-1586863050051)]

#遍历后续节点
for sibling in soup.a.next_sibling:
	print(sibling)

#遍历前续节点    
for sibling in soup.a.previous_sibling:
	print(sibling)

(5) 基于bs4库的HTML格式输出

#美化输出
#.prettify()为HTML文本<>及其内容增加了'\n'
soup.prettify()
#.prettify()可用于标签
soup.a.prettify()

• bs4库将任何HTML输入都变成了utf-8编码