深度学习基础知识笔记

深度学习要解决的问题

  • 1 深度学习要解决的问题
  • 2 应用领域
  • 3 计算机视觉任务
  • 4 视觉任务中遇到的问题
  • 5 得分函数
  • 6 损失函数
  • 7 前向传播整体流程
  • 8 返向传播计算方法
    • 1 梯度下降
  • 9 神经网络整体架构
  • 11 神经元个数对结果的影响
  • 12 正则化和激活函数
    • 1 正则化
    • 2 激活函数
  • 13 神经网络过拟合解决办法
    • 1 数据预处理
    • 2 参数初始化
    • 3 DROP-OUT-七伤拳
  • 视频

1 深度学习要解决的问题

怎么样提特征

2 应用领域

(1)无人驾驶,
计算机视觉
(2)人脸识别
移动端-计算量太大,速度慢,卡。
参数:成千上百万的。
(3)医学
(4)变脸
(5)图像自动上色

有监督的问题,

3 计算机视觉任务

1 分类:

挑战:照射角度,形状改变,部分遮挡,背景混入

套路:收集数据给定标签,训练分类器,测试评估

(1)K近邻算法

  • 不适合作为分类的算法。

4 视觉任务中遇到的问题

  1. 背景相同的放到一起了,关注的是主体。

5 得分函数

6 损失函数

w权重矩阵,是优化来的,什么样的w适合做当前的人物。
损失函数既能做分类又能做回归的。
衡量分类的结果。

损失函数是怎么定义的,网络是不会变的,不同的任务损失函数是不一样的。

7 前向传播整体流程

缺点过于强大了,否则过拟合了。

8 返向传播计算方法

深度学习基础知识笔记_第1张图片

1 梯度下降

深度学习基础知识笔记_第2张图片

9 神经网络整体架构

深度学习基础知识笔记_第3张图片
深度学习基础知识笔记_第4张图片

找参数,
深度学习基础知识笔记_第5张图片

11 神经元个数对结果的影响

12 正则化和激活函数

1 正则化

深度学习基础知识笔记_第6张图片
深度学习基础知识笔记_第7张图片

2 激活函数

非常重要
深度学习基础知识笔记_第8张图片
深度学习基础知识笔记_第9张图片

13 神经网络过拟合解决办法

1 数据预处理

深度学习基础知识笔记_第10张图片

2 参数初始化

深度学习基础知识笔记_第11张图片

3 DROP-OUT-七伤拳

深度学习基础知识笔记_第12张图片

深度学习基础知识笔记_第13张图片

视频

https://www.bilibili.com/video/BV15t4y1G7kq?p=14&vd_source=5c9c50b5a07b211beafdf65d7cc7f8c8

你可能感兴趣的:(深度学习,笔记,人工智能)