深度学习入门（一）：神经网络基础

一、深度学习概念

1、定义

通过训练多层网络结构对位置数据进行分类或回归，深度学习解决特征工程问题。

2、深度学习应用

• 图像处理
• 语言识别
• 自然语言处理

在移动端不太好，计算量太大了，速度可能会慢
eg.医学应用、自动上色

3、例子

使用k最近邻进行判断时，背景主导是最大的问题，因为我们关注的是主体（主要成分）

二、神经网络基础

1、线性函数

例如输入一个小猫图片，通过$f(x,W)$得到每个类别的得分：

$f(x,W)$中每个像素点的权重参数不同：
$10$：10种分类
$b$：偏置项（微调操作）
$w$：权重参数

2、损失函数

正则化惩罚项：减轻某个及其突出特征的重要性
损失函数=数据损失+正则化惩罚项

3、Softmax分类器

我们关注属于正确类别概率值，越接近于1，损失越小，因此用对数函数求损失值。

$ex$p：$e^x$次方，用于放大映射
$normalize$：归一化
$L_i$：实际损失值