pytorch搭建transformer进行文本分类训练。

完整工程代码点击这里。

训练结果如下,相比RNN效果很明显,具体对比参考pytorch搭建TextRNN做文本分类,TextRNN加Attention做对比。
pytorch搭建transformer进行文本分类训练。_第1张图片

你可能感兴趣的:(深度学习,NLP自然语言处理,pytorch,transformer,深度学习)