深度学习入门(一):神经网络基础

一、深度学习概念

1、定义

通过训练多层网络结构对位置数据进行分类或回归,深度学习解决特征工程问题。

深度学习入门(一):神经网络基础_第1张图片

2、深度学习应用

  • 图像处理
  • 语言识别
  • 自然语言处理

在移动端不太好,计算量太大了,速度可能会慢
eg.医学应用、自动上色

3、例子

使用k最近邻进行判断时,背景主导是最大的问题,因为我们关注的是主体(主要成分)

二、神经网络基础

1、线性函数

例如输入一个小猫图片,通过 f ( x , W ) f(x,W) f(x,W)得到每个类别的得分:
深度学习入门(一):神经网络基础_第2张图片

f ( x , W ) f(x,W) f(x,W)中每个像素点的权重参数不同:
10 10 10:10种分类
b b b:偏置项(微调操作)
w w w:权重参数
深度学习入门(一):神经网络基础_第3张图片

2、损失函数

正则化惩罚项:减轻某个及其突出特征的重要性
损失函数=数据损失+正则化惩罚项

深度学习入门(一):神经网络基础_第4张图片

3、Softmax分类器

我们关注属于正确类别概率值,越接近于1,损失越小,因此用对数函数求损失值。

e x ex exp: e x e^{x} ex次方,用于放大映射
n o r m a l i z e normalize normalize:归一化
L i L_i Li:实际损失值

深度学习入门(一):神经网络基础_第5张图片

你可能感兴趣的:(深度学习入门,深度学习,神经网络,人工智能)