Bi-LM

【AI理论学习】语言模型：从Word Embedding到ELMo

语言模型：从WordEmbedding到ELMoELMo原理Bi-LM总结参考资料本文主要介绍一种建立在LSTM基础上的ELMo预训练模型。
镰刀韭菜·2023-09-04 21:35

BERT

但是实际上，当前词出现不只是单单依靠上文或者下文，其实应该是同时依赖于上下文，在ELMo里面，就是用了bi-lm的结构，但是这种bi-lm只是两个独立的前向和后向模型合并起来的，并不是一种完美的结合上下文
612twilight·2020-05-04 23:39
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他