关于分布表达与分布式表达和continuous representation

1.最近先是看论文看到continuous representation 不知道是什么东西 然后才发现它与分布式表达有关,是一种比较稠密的连续实数向量

2.关于这两个说法,有这两个博客都说的很好:

https://blog.csdn.net/spring_willow/article/details/81452162(相关资料总结)

https://blog.csdn.net/david0611/article/details/80691043 (自己的总结)

感觉读了第一篇的最后一段有点懂了 分布表示是比如神经网络的词语训练里 词向量里面可以带有上下文的信息 是和语言模型一起训练出来的参数 分布式表示是相对于独热码(这个单词的所有信息都在某个维度里(就是唯一的那个1))把信息分布在各个维度里 只是随着维度的值的不同来区分单词

你可能感兴趣的:(NMT(自然语言处理))