动手学深度学习——学习笔记(Task3)

过拟合、欠拟合及其解决方案

训练误差和泛化误差

动手学深度学习——学习笔记(Task3)_第1张图片

验证数据集

动手学深度学习——学习笔记(Task3)_第2张图片

欠拟合和过拟合现象

动手学深度学习——学习笔记(Task3)_第3张图片

模型复杂度对欠拟合和过拟合的影响

动手学深度学习——学习笔记(Task3)_第4张图片

应对方法

权重衰减
动手学深度学习——学习笔记(Task3)_第5张图片
丢弃法
动手学深度学习——学习笔记(Task3)_第6张图片

总结

动手学深度学习——学习笔记(Task3)_第7张图片
动手学深度学习——学习笔记(Task3)_第8张图片
在这里插入图片描述

循环神经网络进阶

通过时间反向传播

动手学深度学习——学习笔记(Task3)_第9张图片
动手学深度学习——学习笔记(Task3)_第10张图片
在这里插入图片描述

门控循环单元(GRU)

动手学深度学习——学习笔记(Task3)_第11张图片
动手学深度学习——学习笔记(Task3)_第12张图片
动手学深度学习——学习笔记(Task3)_第13张图片
动手学深度学习——学习笔记(Task3)_第14张图片
在这里插入图片描述

长短期记忆(LSTM)

在这里插入图片描述
动手学深度学习——学习笔记(Task3)_第15张图片
动手学深度学习——学习笔记(Task3)_第16张图片
动手学深度学习——学习笔记(Task3)_第17张图片
动手学深度学习——学习笔记(Task3)_第18张图片
动手学深度学习——学习笔记(Task3)_第19张图片

深度循环神经网络

动手学深度学习——学习笔记(Task3)_第20张图片

双向循环神经网络

动手学深度学习——学习笔记(Task3)_第21张图片

你可能感兴趣的:(动手学深度学习——学习笔记(Task3))