XLNet技术学习（论文+原理+代码）

XLNet技术学习（论文+原理+代码）

1. 论文
2. XLNet原理
3. XLNet代码

来自卡耐基梅隆大学与谷歌大脑的研究者提出新型预训练语言模型 XLNet，在 SQuAD、GLUE、RACE 等 20 个任务上全面超越 BERT。

1. 论文：
   https://arxiv.org/pdf/1906.08237.pdf

2. XLNet原理
   2.1. 20项任务全面碾压BERT，CMU全新XLNet预训练模型屠榜（已开源）
   https://mp.weixin.qq.com/s/29y2bg4KE-HNwsimD3aauw
   2.2. 20项任务横扫BERT！CMU谷歌发布XLNet，NLP再迎屠榜时刻
   https://mp.weixin.qq.com/s/Yah8cJmzTwRfom4LHTPKYw
   2.3. 想在PyTorch里训练BERT，请试试Facebook跨语言模型XLM
   https://mp.weixin.qq.com/s/im-5SKvHQNmAWxtAehvdHQ
   2.4. XLNet:运行机制及和Bert的异同比较
   https://mp.weixin.qq.com/s/2nWZkWDWbtHEkWyTCKKuHw
   2.5. 碾压Bert？“屠榜”的XLnet对NLP任务意味着什么
   https://mp.weixin.qq.com/s/o35E4rFkm4KsL_2a3fqe_Q
   2.6. 追溯XLNet的前世今生：从Transformer到XLNet
   https://mp.weixin.qq.com/s/SAiIIa9_-16dqRMKASsuhw
   2.7. 最通俗易懂的XLNET详解
   https://blog.csdn.net/u012526436/article/details/93196139

3. 代码
   3.1. 官方代码
   https://github.com/zihangdai/xlnet
   3.2. xlnet模型微调—英文文本分类
   https://blog.csdn.net/luoyexuge/article/details/93074979
   3.3. XLNet代码分析
   https://www.codercto.com/a/90942.html