Python深度学习12——Keras实现注意力机制(self-attention)中文的文本情感分类(详细注释)
Keras封装性比较高,现在的注意力机制都是用pytorch较为多。但是使用函数API也可以实现,Keras处理文本并且转化为词向量也很方便。本文使用了一个外卖评价的数据集,标签是0和1,1代表好评,0代表差评。并且构建了12种模型,即MLP,1DCNN,RNN,GRU,LSTM,CNN+LSTM,TextCNN,BiLSTM,Attention,BiLSTM+Attention,BiGRU+At