Enhanced LSTM论文总结

1.文章概述

文章主要解决NLI问题：判断是否能从一个前提P推导出假设h

模型结构图为下图，左面为ESIM,右面是基于语法树的tree-LSTM，二者预测结果融合，效果更好

2.ESIM组成部分

2.1 input encoding

将词向量放入BILSTM来学习如何表示一个word和其正下文的关系

2.2 Local Inference Modeling

对两个句子采用软对齐的方法（soft alignment）

2.2.1 计算两个句子word之间的相似度

2.2.2 对于句子里每一个单词在另一个句子中的相似度进行加权

2.2.3 enhancement of local inference information

将和进行差和点积，突出差异性，增强模型的性能

2.3 inference composition

2.3.1把Ma Mb送入BILSTM，获取局部推理信息Ma Mb及其上下文组合推理

2.3.2池化

进行最大值池化和平均值池化，并把得到的结果拼接起来

最后把v送入一个MLP，激活函数采用tanh,输出层使用softmax