预训练模型之ELMO -《Deep contextualized word representations》论文笔记 + 高频面试题

无聊学学罢了，非常简单的一个模型吧，算是一个比较经典的模型。ELMO更多的像是一个承上启下的角色，对于我们去了解那些词向量模型的思想也是很有帮助的。但由于同期的BERT等模型过于耀眼，使得大家并不太了解ELMO。

发表自NAACL-2018，当年的best paper。
论文链接：https://arxiv.org/pdf/1802.05365.pdf

导航

ID	内容
NO.1	1、ELMO解决两个问题
NO.2	2、何为前向语言模型？
NO.3	3、何为后向语言模型？
NO.4	4、双向语言模型
NO.5	5、ELMO模型
NO.6	6、如何预训练ELMOÿ