爬虫编程入门实践（Day 2）

Beautiful Soup库入门

Beautiful Soup库是解析、遍历、维护“标签树”的功能库，对应一个HTML/XML文档的全部内容。

Beautiful Soup库解析器

解析器	使用方法	条件
bs4的HTML解析器	BeautifulSoup(mk,‘html.parser’)	安装bs4库
lxml的HTML解析器	BeautifulSoup(mk,‘lxml’)	pip install lxml
lxml的XML解析器	BeautifulSoup(mk,‘xml’)	pip install lxml
html5lib的解析器	BeautifulSoup(mk, ‘html5lin’)	pip install html5lib

Beautiful Soup库的基本元素

BeautifulSoup类的基本元素:
- Tag 标签，最基本的信息组织单元，分别用<>和标明开头和结尾；
- Name 标签的名字，

…

的名字是'p'，格式：.name;
- Attributes 标签的属性，字典形式组织，格式：.attrs;
- NavigableString 标签内非属性字符串，<>…中字符串，格式：.string;
- Comment 标签内字符串的注释部分，一种特殊的Comment类型;

基于bs4库的HTML内容遍历方法

HTML基本格式:<>…构成了所属关系，形成了标签的树形结构

• 标签树的下行遍历
  • .contents 子节点的列表，将所有儿子节点存入列表
  • .children 子节点的迭代类型，与.contents类似，用于循环遍历儿子节点
  • .descendants 子孙节点的迭代类型，包含所有子孙节点，用于循环遍历
• 标签树的上行遍
  • .parent 节点的父亲标签
  • .parents 节点先辈标签的迭代类型，用于循环遍历先辈节点
• 标签树的平行遍历
  • .next_sibling 返回按照HTML文本顺序的下一个平行节点标签
  • .previous_sibling 返回按照HTML文本顺序的上一个平行节点标签
  • .next_siblings 迭代类型，返回按照HTML文本顺序的后续所有平行节点标签
  • .previous_siblings 迭代类型，返回按照HTML文本顺序的前续所有平行节点标签

Beautiful Soup使用方法详见：我的GitHub

信息组织和提取方法

信息组织

HTML（hyper text markup language） 是 WWW（World Wide Web）的信息组织方式。可以通过预定义<>...标签形式组织不同类型的信息。国际公认的信息标记种类有三种形式：XML JSON YAML

• XML：最早的通用信息标记语言，可扩展性好，但繁琐；应用在Internet上的信息交互和传递。

 ... 
]

• JOSN：信息有类型，适合程序处理（JS），较XML简洁；移动应用云端和节点的信息通信，无注释。

"key":"value"
"key":["value1","value2"]
"key":{"subkey":"subvalue"}

• YAML：信息无类型，文本信息比例高，可读性好；各类系统的配置文件，有注释易懂。

key:value
key:#comment
- value
- value
key:
	subkey:subvalue

信息提取的一般形式

方法一：完整解析信息的标记形式，再提取相关信息。
需要标记解析器，例如bs4库的标签树遍历。
优点：信息解析准确；
缺点：提取过程繁琐，速度慢。
方法二：无视标记形式，直接搜索关键信息。
对信息的文本采用查找函数即可。
优点：提取过程简洁，速度较快；
缺点：提取结果准确性和信息内容相关。
方法三：融合方法：结合形式解析与搜索方法，提取信息。
需要标记解析器及文本查找函数。

基于bs4库的HTML内容的查找方法

• <>.find_all(name, attrs, recursive, string, **kwargs)
  • 参数：
  • ∙ name : 对标签名称的检索字符串
  • ∙ attrs: 对标签属性值的检索字符串，可标注属性检索
  • ∙ recursive: 是否对子孙全部检索，默认True
  • ∙ string: <>…中字符串区域的检索字符串
    • 简写：
    • (…) 等价于 .find_all(…)
    • soup(…) 等价于 soup.find_all(…)
• 扩展方法：
  • <>.find() 搜索且只返回一个结果，同.find_all()参数
  • <>.find_parents() 在先辈节点中搜索，返回列表类型，同.find_all()参数
  • <>.find_parent() 在先辈节点中返回一个结果，同.find()参数
  • <>.find_next_siblings() 在后续平行节点中搜索，返回列表类型，同.find_all()参数
  • <>.find_next_sibling() 在后续平行节点中返回一个结果，同.find()参数
  • <>.find_previous_siblings() 在前序平行节点中搜索，返回列表类型，同.find_all()参数
  • <>.find_previous_sibling() 在前序平行节点中返回一个结果，同.find()参数

实例：中国大学排名定向爬取

• 爬取url：http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html
• 爬取思路：
  1. 从网络上获取大学排名网页内容
  2. 提取网页内容中信息到合适的数据结构（二维数组）-排名，学校名称，总分
  3. 利用数据结构展示并输出结果

此例为定向爬虫。代码在我的Github中，其中注意学习使用中文排版的问题！

xpath

Xpath常用的路径表达式：

• XPath即为XML路径语言（XML Path Language），它是一种用来确定XML文档中某部分位置的语言。
• 在XPath中，有七种类型的节点：元素、属性、文本、命名空间、处理指令、注释以及文档（根）节点。
• XML文档是被作为节点树来对待的。

XPath使用路径表达式在XML文档中选取节点。节点是通过沿着路径选取的。下面列出了最常用的路径表达式：

• nodename 选取此节点的所有子节点。

• / 从根节点选取。

• // 从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。

• . 选取当前节点。

• … 选取当前节点的父节点。

• @ 选取属性。

• /text() 提取标签下面的文本内容

  • 如：
  • /标签名 逐层提取
  • /标签名 提取所有名为<>的标签
  • //标签名[@属性=“属性值”] 提取包含属性为属性值的标签
  • @属性名 代表取某个属性名的属性值

• 详细学习：https://www.cnblogs.com/gaojun/archive/2012/08/11/2633908.html

使用lxml解析

• 导入库：from lxml import etree

• lxml将html文本转成xml对象

  • tree = etree.HTML(html)

• 用户名称：tree.xpath(’//div[@class=“auth”]/a/text()’)

• 回复内容：tree.xpath(’//td[@class=“postbody”]’) 因为回复内容中有换行等标签，所以需要用string()来获取数据。

  • string()的详细见链接：https://www.cnblogs.com/CYHISTW/p/12312570.html

• Xpath中text()，string()，data()的区别如下：

  • text()仅仅返回所指元素的文本内容。
  • string()函数会得到所指元素的所有节点文本内容，这些文本讲会被拼接成一个字符串。
  • data()大多数时候，data()函数和string()函数通用，而且不建议经常使用data()函数，有数据表明，该函数会影响XPath的性能。

实战：爬取丁香园-用户名和回复内容

爬取思路：
1. 获取url的html
2. lxml解析html
3. 利用Xpath表达式获取user和content
4. 保存爬取的内容
代码在我的GitHub里

正则表达式 re

为什么使用正则表达式？

典型的搜索和替换操作要求您提供与预期的搜索结果匹配的确切文本。虽然这种技术对于对静态文本执行简单搜索和替换任务可能已经足够了，但它缺乏灵活性，若采用这种方法搜索动态文本，即使不是不可能，至少也会变得很困难。

通过使用正则表达式，可以：

• 测试字符串内的模式。
  例如，可以测试输入字符串，以查看字符串内是否出现电话号码模式或信用卡号码模式。这称为数据验证。
• 替换文本。
  可以使用正则表达式来识别文档中的特定文本，完全删除该文本或者用其他文本替换它。
• 基于模式匹配从字符串中提取子字符串。可以查找文档内或输入域内特定的文本。可以使用正则表达式来搜索和替换标记。

使用正则表达式的优势是什么？ 简洁

• 正则表达式是用来简洁表达一组字符串的表达式
• 正则表达式是一种通用的字符串表达框架
• 正则表达式是一种针对字符串表达“简洁”和“特征”思想的工具
• 正则表达式可以用来判断某字符串的特征归属

正则表达式在文本处理中十分常用：

• 表达文本类型的特征（病毒、入侵）
• 同时查找或替换一组字符串
• 匹配字符串的全部或部分(主要)

正则表达式语法

正则表达式语法由字符和操作符构成:

• 常用操作符

  • . 表示任何单个字符

  • [ ] 字符集，对单个字符给出取值范围 ，如[abc]表示a、b、c，[a‐z]表示a到z单个字符

  • [^ ] 非字符集，对单个字符给出排除范围 ，如[^abc]表示非a或b或c的单个字符

  • * 前一个字符0次或无限次扩展，如abc* 表示 ab、abc、abcc、abccc等

  • + 前一个字符1次或无限次扩展 ，如abc+ 表示 abc、abcc、abccc等

  • ? 前一个字符0次或1次扩展 ，如abc? 表示 ab、abc

  • | 左右表达式任意一个 ，如abc|def 表示 abc、def

  • {m} 扩展前一个字符m次 ，如ab{2}c表示abbc

  • {m,n} 扩展前一个字符m至n次（含n） ，如ab{1,2}c表示abc、abbc

  • ^ 匹配字符串开头 ，如^abc表示abc且在一个字符串的开头

  • $ 匹配字符串结尾 ，如abc$表示abc且在一个字符串的结尾

  • ( ) 分组标记，内部只能使用 | 操作符 ，如(abc)表示abc，(abc|def)表示abc、def

  • \d 数字，等价于[0‐9]

  • \w 单词字符，等价于[A‐Za‐z0‐9_]

正则表达式re库的使用

调用方式：import re
re库采用raw string类型表示正则表达式，表示为：r’text’，raw string是不包含对转义符再次转义的字符串;

re库的主要功能函数：

• re.search() 在一个字符串中搜索匹配正则表达式的第一个位置，返回match对象
  re.search(pattern, string, flags=0)

• re.match() 从一个字符串的开始位置起匹配正则表达式，返回match对象
  re.match(pattern, string, flags=0)

• re.findall() 搜索字符串，以列表类型返回全部能匹配的子串
  re.findall(pattern, string, flags=0)

• re.split() 将一个字符串按照正则表达式匹配结果进行分割，返回列表类型
  re.split(pattern, string, maxsplit=0, flags=0)

• re.finditer() 搜索字符串，返回一个匹配结果的迭代类型，每个迭代元素是match对象
  re.finditer(pattern, string, flags=0)

• re.sub() 在一个字符串中替换所有匹配正则表达式的子串，返回替换后的字符串
  re.sub(pattern, repl, string, count=0, flags=0)

  • flags : 正则表达式使用时的控制标记：
    • re.I --> re.IGNORECASE : 忽略正则表达式的大小写，[A‐Z]能够匹配小写字符
    • re.M --> re.MULTILINE : 正则表达式中的^操作符能够将给定字符串的每行当作匹配开始
    • re.S --> re.DOTALL : 正则表达式中的.操作符能够匹配所有字符，默认匹配除换行外的所有字符

re库的另一种等价用法

• pat = re.compile(r’[1-9]\d{5}’) # 多次使用正则表达式
• rst = pat.search(‘BIT 1000081’)

将正则表达式的字符串形式编译成正则表达式对象(编译）

regex = re.compile(pattern, flags=0)

re 库的贪婪匹配和最小匹配

• .* Re库默认采用贪婪匹配，即输出匹配最长的子串
• *? 只要长度输出可能不同的，都可以通过在操作符后增加?变成最小匹配

实战：淘宝商品比价定向爬虫

链接：我的GitHub