COLING 2022 | 基于token-pair关系建模解决重叠和嵌套事件抽取的One-stage框架

每天给你送来NLP技术干货！

---

来自：社媒派SMP

题目：OneEE：一个针对重叠和嵌套事件抽取的One-stage框架

OneEE: A One-Stage Framework for Fast Overlapping and Nested Event Extraction

作者：曹虎（武汉大学），李京烨（武汉大学），苏方方（武汉大学），李霏（武汉大学），费豪（新加坡国立大学），吴胜琼（新加坡国立大学），李波波（武汉大学），赵亮（圣保罗大学），姬东鸿（武汉大学）

会议：COLING 2022

论文：https://arxiv.org/pdf/2209.02693.pdf

代码：https://github.com/Cao-Hu/OneEE

一句话概括本工作：本研究设计了一种简单有效的标签系统将重叠和嵌套事件抽取转换成了词对关系分类的任务，触发词、论元以及其间的关系可以并行地同时被预测出来，达到非常快的抽取速度，在3个重叠或嵌套的事件抽取数据集上的实验结果达到了SOTA。

一、动机介绍

1.1 重叠和嵌套事件抽取

事件抽取（Event Extraction，EE）是自然语言处理领域的一项非常基本的任务，在社区长久以来一直得到广泛的研究。EE的目标是从文本中抽取事件触发词和相关的论元。传统的事件抽取关注于普通的事件，认为触发词和论元之间没有重叠，忽视了复杂的事件模式，即重叠事件和嵌套事件：

• Flat Event：触发词和论元之间没有重叠；

• Overlapped Event：多个事件的共享重叠的触发词或论元；

• Nested Event：一个事件的论元是另外一个事件。

图1：普通事件（a），重叠事件（b），嵌套事件（c）

以图1为例，(b)中Investment事件和Share Transfer事件共享了”acquired”这一重叠触发词，以及”Citic Securities”，”Guangzhou Securities”是重叠的论元。(c)中Gene Expression事件是Positive Regulation的Theme论元。

1.2 重叠和嵌套事件抽取方法

截止当前，重叠和嵌套事件抽取领域的主流方法大致有三类：

• 基于Pipleline的方法；

• 基于多轮QA的方法；

• 基于级联网络的方法。

这些方法都是Multi-stage的，用多个连续的阶段分别抽取事件触发词和论元。其中，基于级联网络的方法CasEE是之前的SOTA，CasEE依次预测事件类型、抽取触发词、抽取论元。这些Multi-stage的方法后面阶段的预测依赖于前面的预测结果，难以避免地带来了误差传播的问题。

本研究关注于构建一种高效的EE框架，能够在一个阶段同时解决重叠和嵌套的事件抽取。

1.3 本文的方法

传统的事件抽取使用序列标注的方法无法解决重叠和嵌套的问题，现有的工作使用指针网络分别识别触发词或论元的头尾token；我们在针对重叠和嵌套事件的共性进行深入挖掘后，发现可以通过token-pair之间的关系分类进行统一建模。触发词和论元可以通过token-head和token-tail之间联系，而论元的角色可以通过触发词和论元之间的关系建模，例如图1（b）中触发词”acquired”和论元”Guangzhou Securities”表达了object关系。

根据上述观察，本文将Overlapped and Nested EE任务转化成一种词对的关系分类任务，通过这种标签体系能够在一个阶段内抽取出事件类型、触发词、论元以及论元的角色，在此基础提出了一种新的EE框架（A One-Stage Framework for Fast Overlapping and Nested Event Extraction），名为OneEE。具体地，该框架的目标是将EE转变为识别出触发词和论元中所蕴含的两种类型的关系，即：

• Span关系（S-T, S-A）；

• Role关系（R-*）；

具体的词对关系分类示例如图2所示。其中S-T表示两个词是某个触发词的头部和尾部，S-A表示两个词是某个论元的头部和尾部（如”Citic”->”Securities”，Argument），R-*表示该词作为触发词的事件中，另一个词扮演了角色类型为*的论元（如“acquired”->“Citic Securities”，Subject）。

图2：关系分类示例

二、模型框架

图3给出了OneEE整体的框架结构。其整体可分为三层：输入编码层，自适应事件融合曾以及最后的联合解码层。其中解码层是本论文的核心。

图3：模型整体结构

2.1 编码层

给定一个输入句子，将每一个词转换成多个word piece，并将他们输入预训练的BERT模块中。进过BERT计算后，使用最大池化操作将这些word piece表示重新聚合成词表示。

2.2 自适应事件融合层

由于该框架的目标是预测目标事件类型的词对之间的关系，因此生成高质量的事件感知的表示十分重要。因此，为了融合编码器提供的事件信息和上下文信息，本论文设计了一个自适应事件融合层。其中注意力模块用于建模不同事件类型之间的交互并获得全局事件信息，两个门融合模块用于将全局事件信息和目标事件类型信息与上下文化的词表示融合。

2.3 解码层

在自适应事件融合层之后，获得了事件感知的词表示，用于预测词对之间的Span关系和Role关系，对于每个词对(w_i , w_j )，计算一个分数来衡量它们对于关系 s ∈ S 和 r ∈ R 的可能性。为了使预测层对于词与词之间的相对距离敏感，论文还引入了旋转式的相对位置编码，设计了距离感知的打分函数。损失函数部分本文使用了Circle Loss的变体，将交叉熵损失扩展到多标签分类问题，并缓解了类别不均衡的问题。

在解码阶段，该模型通过将事件类型Embedding并行地插入自适应事件融合层来抽取所有事件。如图 4 所示，一旦该模型在一个阶段预测了某种事件类型的所有标签，整个解码过程可以概括为四个步骤：首先，获得触发词或论元的开始和结束索引；其次，获得触发词和论元的span；第三，根据 R-* 关系匹配触发词和论元；最后，将事件类型分配给该事件结构。

图4：解码示例

三、实验结果

本文在3个重叠和嵌套的事件抽取数据集上（包括英文和中文）进行了实验，分别是：

• FewFC，一个中文金融事件抽取数据集，标注了10种事件类型和18种论元，有约22%的句子包含重叠事件；

• Genia 11和Genia 13，两个英文医学领域数据集，有约18%的句子包含嵌套事件，Genia11 标注了9种事件类型和10种论元，而Genia13的数字是13和7。

表1-2分别展示了上述任务和数据集上与基线模型对比的结果。实验结果表明，本文提出的基于词对关系分类的One-Stage方法，可以同时解决重叠和嵌套的事件抽取，并在3个数据集上的效果都优于之前的工作，并且推理速度也是最快的。

表1：FewFC, 重叠事件抽取

表2：Genia 11和Genia 13, 嵌套事件抽取

图5：重叠事件与嵌套事件抽取效果对比

图6：触发词和论元不同距离论元角色抽取效果对比

通过进一步的消融实验，我们探索了不同参数和部件对整体框架的影响。此外我们模型在相对较小的参数情况下，其训练和推理速度超过了多个非连续实体识别模型。

表6：消融实验

表 7：模型参数与效率对比

四、总结

在本文中，我们提出了一种基于词-词关系识别的新型单阶段框架，以同时解决重叠和嵌套的事件抽取。词对之间的关系被预定义为触发词或论元内的词-词关系以及跨越触发词-论元对。此外，我们提出了一个有效的模型，该模型由一个用于融合目标事件表示的自适应事件融合层和一个用于联合识别各种关系的距离感知的预测层组成。实验结果表明，我们提出的模型在三个数据集上实现了新的 SoTA 结果，并且比 SoTA 模型更快。

---

论文解读投稿，让你的文章被更多不同背景、不同方向的人看到，不被石沉大海，或许还能增加不少引用的呦~ 投稿加下面微信备注“投稿”即可。

最近文章

为什么回归问题不能用Dropout？

Bert/Transformer 被忽视的细节

中文小样本NER模型方法总结和实战

一文详解Transformers的性能优化的8种方法

DiffCSE: 将Equivariant Contrastive Learning应用于句子特征学习

苏州大学NLP团队文本生成&预训练方向招收研究生/博士生（含直博生）

NIPS'22 | 重新审视区域视觉特征在基于知识的视觉问答中的作用

---

投稿或交流学习，备注：昵称-学校（公司）-方向，进入DL&NLP交流群。

方向有很多：机器学习、深度学习，python，情感分析、意见挖掘、句法分析、机器翻译、人机对话、知识图谱、语音识别等。

记得备注~