方面级情感分析论文泛读10：Knowledge-enabled BERT for aspect-based sentiment analysis

提示1：原文链接

---

前言

  本篇博客主要是对《Knowledge-enabled BERT for aspect-based sentiment analysis》进行了泛读，并对其进行了简单地记录，以帮助大家快速了解此篇论文的要点。

---

一、论文信息

• 论文名：《Knowledge-enabled BERT for aspect-based sentiment analysis》
• 作者：Zhao, Anping；Yu, Yu.
• 领域：ABSA
• 关键词：Sentiment knowledge graph、BERT、Aspect–sentiment analysis
• 发表年份：2021

二、笔记要点

2.1 目前存在的问题

  为了提供可解释且准确的方面术语和相应的方面-情感检测，考虑外部特定领域的知识通常很有用。

实际应用得问题：

  1、一方面，方面术语和观点词之间的确切配对信息并不总是很清楚，因为如果没有领域知识，句子中两个实体之间的语义关系可能无法获得；
  2、另一方面，尽管现有 ABSA 方法性能良好，但大多数方法无法解释为什么将一条方面 - 情感信息归类为正面或负面。
  3、受这些观察的启发，有必要提供一种可解释的方法来理解为什么某些方面——情感信息被归类为正面或负面。

2.2 目前解决方法

• KNEE[30]：该方法是一种用于情感分析的知识增强型神经网络框架，将方面级别的情感分类和方面-意见对识别建模为联合文本分类任务。
• CG-BERT[24]：上下文引导的 BERT 通过上下文感知转换器学习在不同上下文下分配注意力，以提高 ABSA 性能。
• R-GAT+BERT[15]：关系图注意力网络 (R-GAT) 对用于情感预测的树结构进行编码，将 R-GA 的注意力头替换为 BERT。
• BERT+Liner[20]：一个基于 BERT 的架构是用一个简单的线性分类层构建的，用于 ABSA 任务。 BERT 被认为是一个特征提取器，或者特定任务的组件使用 BERT 进行微调。

2.3 本文方法和创新点

  提出了一种基于知识的语言表示模型 BERT，用于基于方面的情感分析
    具体来说，我们通过将情感领域知识注入语言表示模型来利用情感知识图中的附加信息，该模型在一致的向量空间中获得情感知识图中实体和文本中单词的嵌入向量；
    此外，该模型能够通过将外部领域知识纳入语言表示模型以补偿有限的训练数据，从而在少量训练数据下获得更好的性能；

2.4 模型结构

  主体框架选择的BERT，具体模型如下图所示：

2.5 实验结果

  采用的是MOOC在线评论自己处理的数据集，与现存方法进行了对比，实验结果证明了所提出方法的有效性，表明知识支持的 BERT 是解决基于方面的情感分析问题的绝佳选择。

• 模型对比结果：
  
• 模型在三分类上的结果对比：
  
• 不同SKG大小的模型对比结果：
  

2.6 总结和展望

  在本文中，我们提出了一种基于知识的BERT 模型，用于基于方面的情感分析。该模型利用来自情感知识图的附加信息来指导输入句子嵌入与BERT语言表示模型，它可以捕获更多可解释的信息以提高性能并获得详细的情感分析结果。基于真实数据集的实验结果证明了所提出方法的有效性，该方法结合了来自情感知识图的外部知识来提高 ABSA 任务性能。
  在未来的工作中，我们将研究如何结合更多种类的外部知识来构建情感知识图，并更好地结合动态嵌入来增强 ABSA 结果的可解释性。

---

总结

  以上就是本篇博客的全部内容了，希望对你有所帮助。