深入理解Attention及变种(三)

Meet and understand Attention

        今天是2018年12月22号,时间过得很快,如白驹过隙,眼看着就到了2018年的年末,小亮抓紧时间与各位IT&NLP好友分享Attention,让大家过一个充实的双节!(圣诞节&元旦节)我们今天继续吃Attention!这一部分内容就是重点讲解2017Google发表在NIPS上的里程碑之作:《Attention Is All You Need》。相比于前面深入理解Attention及变种(二)这里就有点深入了,没关系我们一起来!!! 我是赵小亮,一枚NLP大道上的小白,今天我们一起来学Attention!用文字记载生活、用文字书写科研中的故事、用文字传播NLP领域的点点滴滴,你我共同成长!

        AI大餐预告:本周小亮主要讲解Attention系列专题,大概有八大板块,从Attention Mechanism的起源、历史、变种、相关论文《Attention Is All You Need》以及实战,还有一些思考,带领大家一起吃Attention这顿大餐!#### 笔者信息:Next_Legend QQ:1219154092 机器学习 自然语言处理 深度学习 统计概率论#### 小亮的博客:https://legendtianjin.github.io/NextLegend.github.io/ ——2018.12.22于北洋


五、Attention Is All You Need论文讲解

        今天我们就主讲2017Google发表在NIPS上的里程碑之作:《Attention Is All You Need》这篇paper。在这里你可能会去下载这篇文章,但是却发现文章中的内容很少,很难深入理解,小亮告诉你这是正常的,不必灰心,不必丧气,你还有我们!你还有小亮!!小亮私人博客

深入理解Attention及变种(三)_第1张图片
深入理解Attention及变种(三)_第2张图片
深入理解Attention及变种(三)_第3张图片
深入理解Attention及变种(三)_第4张图片
深入理解Attention及变种(三)_第5张图片
深入理解Attention及变种(三)_第6张图片
深入理解Attention及变种(三)_第7张图片
深入理解Attention及变种(三)_第8张图片
深入理解Attention及变种(三)_第9张图片
深入理解Attention及变种(三)_第10张图片
深入理解Attention及变种(三)_第11张图片
深入理解Attention及变种(三)_第12张图片
深入理解Attention及变种(三)_第13张图片
深入理解Attention及变种(三)_第14张图片
深入理解Attention及变种(三)_第15张图片
深入理解Attention及变种(三)_第16张图片
深入理解Attention及变种(三)_第17张图片
深入理解Attention及变种(三)_第18张图片
深入理解Attention及变种(三)_第19张图片

       今天的深入理解Attention及变种(三)内容就到这里哈,大家如果没有明白的可以单独添加小亮的QQ,我们私下里联系哈!!!

       AI大预告:Attention及变种(四)内容主要包括国外某公司的attention资料 以及小亮对于Attention Mechanism的一些思考!我们尽情收看小亮为大家准备的下一篇博文!很重要!很重要!!很重要!!!同样,重要的事情说三遍,自己衡量哈!

你可能感兴趣的:(NLP)