深度学习(一)

目录

一、特征工程的作用

二、深度学习的应用

三、得分函数

四、损失函数

 五、前向传播

六、反向传播


一、特征工程的作用

  • 数据特征决定了模型的上限
  • 预处理和特征提取是最核心的
  • 算法与参数选择决定了如何逼近这个上限

二、深度学习的应用

  • 无人驾驶
  • 人脸识别
  • 分辨率重构

深度学习在图像分类中,一张图片被表示为三维数组的形式,每个像素点的值为0到255

三、得分函数

线性函数:从输入-->输出的映射

数学表示:f(s,W) = Wx + b

b是一个微调参数

深度学习(一)_第1张图片

总共有三个类别, 四个像素点,计算权重值时(以猫为例):0.2*56+-0.5*231+0.1*24+2.0*2+1.1

四、损失函数

 

损失函数 = 数据损失 + 正则化惩罚项

深度学习(一)_第2张图片

模型A关注的是局部,而模型B关注的是全局,模型A容易产生过拟合现象

 五、前向传播

深度学习(一)_第3张图片

 有一个输入数据x和一个权重参数W,根据f = Wx计算出得分值,选择一个数据损失函数加上正则惩罚项(R(W))得到一个损失值.

六、反向传播

简单例子:

深度学习(一)_第4张图片

 求x的结果的影响,显示f对中间变量q求偏导,然后q再对x求偏导,再相乘

深度学习(一)_第5张图片

你可能感兴趣的:(pytorch,深度学习,人工智能)