HTML解析库Gumbo简单使用记录

目录

  • Gumbo简介
  • 使用记录
    • 1、GumboNode的类型
    • 2、简单的使用

Gumbo简介

Gumbo是谷歌开源的一个纯C编写的HTML解析库,性能很好,就是用起来比较麻烦。
github地址https://github.com/google/gumbo-parser
还有一个C++封装的版本https://github.com/lazytiger/gumbo-query.git

关于HTML的参考,可见https://developer.mozilla.org/zh-CN/docs/Web/HTML

最近准备写一个爬虫,用于爬取epsg.io上的数据,所以找了这个库用于HTML的解析。其实我这个简单的爬取固定位置的内容,用这个实在是有点杀鸡用牛刀了,直接做字符串搜索会更方便。

使用记录

关于这个的使用,网上找不到太多的资料。
这里有一个https://blog.csdn.net/fjb2080/article/details/78992851

HTML解析库Gumbo简单使用记录_第1张图片

这个图片上实际已经把相关的关系描述清楚了,我这里只做简单的补充。

1、GumboNode的类型

对于一个GumboNode结构体对象,需要通过它的GumboNodeType type字段判断其类型后,可根据类型对成员v进行操作。
v是一个union对象,它可以是GumboDocumentGumboElementGumboText三种类型之一。

1、GUMBO_NODE_DOCUMENT 文档节点

文档节点表示的是一个完整的html文档,就是从之间的全部信息。对于v可取GumboDocument类型的成员document
对于文档节点,其内部包含的元素节点都在GumboVector children中。

2、GUMBO_NODE_ELEMENT 元素节点

只要是含有标签tag的部分,都是元素节点。这个可以简单的理解为,只要是<标签名>之间的就是一个元素节点的内容(有的元素是单标签的),元素节点可以有包含嵌套关系,子节点都在GumboVector children中。

/**
 * 用于表示所有HTML元素的结构。 它包含有关标记,属性和子节点的信息。
 */
typedef struct {
  /**
   * GumboNodes数组,包含此元素的子元素。 保存的是GumboNode的指针。
   */
  GumboVector /* GumboNode* */ children;

  /** 这个元素的GumboTag(标签,HTML的标签是定义好的)枚举值 */
  GumboTag tag;

  /**  此元素的GumboNamespaceEnum值(表示这个是HTML、SVG还是MATHML)*/
  GumboNamespaceEnum tag_namespace;

  /**
   * 指向此元素的原始标记文本的GumboStringPiece,直接指向源缓冲区。
   * 如果标记是通过算法插入的(例如,或插入),则这将是一个零长度字符串。
   */
  GumboStringPiece original_tag;

  /**
   * 指向此元素的原始结束标记文本的GumboStringPiece。
   * 如果以算法方式插入结束标记(例如,关闭自闭标记),则这将是一个零长度字符串。
   */
  GumboStringPiece original_end_tag;

  /** 记录元素开始标签在来源字符串中的起始位置。 */
  GumboSourcePosition start_pos;

  /** 记录元素结束标签在来源字符串中的起始位置。  */
  GumboSourcePosition end_pos;

  /**
   * GumboAttributes数组,按照解析顺序包含此元素标签的属性
   * 数组保存的是GumboAttribute的指针
   */
  GumboVector /* GumboAttribute* */ attributes;
} GumboElement;
3、GUMBO_NODE_TEXT 文本节点

文本节点,对于v可取GumboText类型的成员text
Gumbo在解析的时候,对于\r\n这种都会解析为一个独立的文件节点。

4、GUMBO_NODE_CDATA

CDATA节点是一个比较特殊的节点,这个节点用于传输需要浏览器不做解析,原封不动的当做文本的内容。所以对于v也是取GumboText类型的成员text

5、GUMBO_NODE_COMMENT

注释节点,这个用于保存html中的注释,对于这个节点,对于v也是取GumboText类型的成员text。取出来的GumboText对象中的text成员不包含注释分隔符

6、GUMBO_NODE_WHITESPACE

这是一个文本节点的特例,文本的内容都是空白字符(空格、TAB、回车)。v也是取GumboText

7、GUMBO_NODE_TEMPLATE

模板节点。就是标签