【神经网络基础】3.循环神经网络(笔记)

目录

1.学习目标

2.序列数据

​3.语言模型

3.1语言模型概念

3.2语言模型计算序列的概率 ​

4.RNN-循环神经网络

4.1RNN概念

4.2通过时间反向传播

​5.门控循环单元 

5.1引入门的循环网络

5.2候选隐藏状态 

​6.长短期记忆网络(LSTM)

6.1记忆细胞

6.2候选记忆细胞 

6.3记忆细胞与隐藏状态 

​7.总结

7.1本章总结 

​7.2神经网络总结 


1.学习目标

【神经网络基础】3.循环神经网络(笔记)_第1张图片

2.序列数据

【神经网络基础】3.循环神经网络(笔记)_第2张图片

3.语言模型

3.1语言模型概念

【神经网络基础】3.循环神经网络(笔记)_第3张图片

举例 

【神经网络基础】3.循环神经网络(笔记)_第4张图片

3.2语言模型计算序列的概率 

【神经网络基础】3.循环神经网络(笔记)_第5张图片

4.RNN-循环神经网络

4.1RNN概念

【神经网络基础】3.循环神经网络(笔记)_第6张图片

【神经网络基础】3.循环神经网络(笔记)_第7张图片

【神经网络基础】3.循环神经网络(笔记)_第8张图片

4.2通过时间反向传播

【神经网络基础】3.循环神经网络(笔记)_第9张图片

【神经网络基础】3.循环神经网络(笔记)_第10张图片

【神经网络基础】3.循环神经网络(笔记)_第11张图片5.门控循环单元 

5.1引入门的循环网络

【神经网络基础】3.循环神经网络(笔记)_第12张图片

5.2候选隐藏状态 

【神经网络基础】3.循环神经网络(笔记)_第13张图片

【神经网络基础】3.循环神经网络(笔记)_第14张图片

【神经网络基础】3.循环神经网络(笔记)_第15张图片6.长短期记忆网络(LSTM)

6.1记忆细胞

【神经网络基础】3.循环神经网络(笔记)_第16张图片

6.2候选记忆细胞 

【神经网络基础】3.循环神经网络(笔记)_第17张图片

6.3记忆细胞与隐藏状态 

【神经网络基础】3.循环神经网络(笔记)_第18张图片

【神经网络基础】3.循环神经网络(笔记)_第19张图片7.总结

7.1本章总结 

【神经网络基础】3.循环神经网络(笔记)_第20张图片7.2神经网络总结 

【神经网络基础】3.循环神经网络(笔记)_第21张图片

【神经网络基础】3.循环神经网络(笔记)_第22张图片

千里之行,始于足下。这句话和循环神经网络契合嗷~感谢余老师!

 

你可能感兴趣的:(神经网络,深度学习)