ABSA领域的最新进展

1.研究背景

随着社交媒体的蓬勃发展，人们更加积极地在互联网上表达和分享自己对商品的看法和态度，海量评论反馈也成为商家企业改进用户服务、凝聚用户流量的重要资源。如何利用计算机技术分析挖掘用户评论背后的情感规律成为当下热门技术话题。

2.ABSA是什么

对于用户评论，Aspect-based sentiment analysis(ABSA)从判断评论的单一情感态度取向逐渐演化为三个独立的子任务：评价对象抽取、评价对象情感分类、评价观点抽取。以句子”Waiters are friendly but the fruit salads are bad”为例，评价对象是”waiters”、”fruit salads”，评价观点是”friendly”、”bad”，评价情感分别是”positive”、”negative”。三个子任务以序列标注形式进行训练与预测，通常采用”BIO”和”BIEOS”的标注模式，其中B、I、E、S、O分别代表评价对象或观点的开始位置、内部位置、结束位置、单个词语、非评价对象和观点位置。如表一所示，Peng et al.(2020)采用”BIEOS”模式，He et al.(2019)采用”BIO”标注模式。

	Input	waiters	are	friendly	but	the	fruit	salads	are	bad
Peng et al.(2020)	unified tag	S-POS	O	O	O	O	B-NEG	B-NEG	O	O
Peng et al.(2020)	opinion tag	O	O	S	O	O	O	O	O	S
He et al.(2019)	unified tag	BA	O	O	O	O	BP	BP	O	O
He et al.(2019)	sentiment	-	-	POS	-	-	NEG	NEG	-	-

表一：训练标注形式

3.最新研究趋势

过去关于ABSA的研究多设计三个独立的模型对研究对象进行分析，导致三个任务不能互相联系，无法建立有效的交互机制。从语义信息上观察，三者任务互相关联，比如，知道评价对象的观点，对判断其情感极为关键；评价观点通常紧邻评价对象，二者知其一，对另一抽取任务帮助巨大；多个评价对象的情感态度可能不一样。
随着深度学习的蓬勃发展，许多研究领域采取端到端的多任务学习模式。传统的多任务学习网络涉及一个共享网络层和多个特定子任务网络层，分别取去学习共享语义特征空间和特定任务语义特征空间。通过并行地训练多个子任务，共享语义特征空间往往能捕捉任务间的相关性，从而提高模型的泛化能力。
为了充分利用任务间的关联信息，近几年有学者提出将评价对象抽取和情感分类两个子任务组合(Li et al. 2019a等)，用端到端模型去抽取评价对象和预测情感类别。目前也已有利用注意力机制，将评价对象和观点提取两个子任务合并的实践(Wang et al. 2017)，都取得了不错的实验结果。直到2019年，He et al.(2019)提出多任务交互学习网络(IMN)，如图1 所示，不仅首次融合了三个子任务，利用评价观点去辅助情感分类任务，而且设计了消息传递机制，该机制集成多个任务的知识去更新共享特征层，令模型学习到更丰富的语义知识。由于ABSA数据集规模较小，IMN利用篇章级的外部语料(领域数据集和情感数据集)，通过训练阶段融合领域分类和情感分类两个子任务去辅助三个子任务，使得模型能够学到更准确的领域特征表示和情感语义信息。
图1：IMN模型结构

IMN归并评价对象和观点的标注，表一的后缀”A”和”P”分别代表评价对象和观点。与其不同，Peng et al.(2020)提出两阶段模型，第一阶段融合三个子任务，归并评价对象和情感的标注，如“B-POS”，第二阶段将抽取出的评价对象和观点两两匹配，得到”(waiters, friendly、POS)”、”(waiters，bad、POS)”、”(fruit salads、friendly、NEG)”、”(fruit salads、bad、NEG)”候选集，最后通过分类模型判断候选集里的三元组是否为真实组合，旨在于将评价对象和观点一一对应。

4.总结

ABSA领域的研究逐渐向多任务学习方向发展，并努力探索任务间有效的交互机制。但目前的研究尚未建立密切的交互机制，没有探索三个子任务的两两语义关系，如上述模型只利用评价观点去辅助评价对象抽取。同时，情感分类任务含多个单词的评价对象存在情感不一致的问题，如”fruit”预测为”B-NEG”，而”salads”预测为“E-NEU”，因此ABSA领域依然存在着巨大的改进空间。

参考文献：

[Wang et al. 2017] Wang, W.; Pan, S. J.; Dahlmeier, D.; and Xiao, X. 2017. Coupled multi-layer attentions for co-extraction of aspect and opinion terms. In AAAI.
[Li et al. 2019a] Li, X.; Bing, L.; Li, P.; and Lam, W. 2019a. A unified model for opinion target extraction and target sentiment prediction. In AAAI.
[He et al. 2019]He R, Lee W S, Ng H T, et al. An interactive multi-task learning network for end-to-end aspect-based sentiment analysis.In ACL.
[Peng et al. 2020]Peng H, Xu L, Bing L, et al. Knowing what, how and why: a near complete solution for aspect-based sentiment analysis.In AAAI.