神经网络基础

文章目录

  • 一、神经网络基础
    • 1.得分函数 f(xi;W,b)
      • 1)从输入到输出的映射
      • 2)数学表示
      • 3)计算方法
      • 4)多组权重参数构成了决策边界
    • 2.损失函数 L
    • 3.前向传播
    • 4.Softmax分类器
  • 梯度下降
    • 2.反向传播

一、神经网络基础

回归任务:最终要预测一个值。由得分算损失。
分类任务:由概率算损失。
前向传播:有了x和W,得到损失L(loss)的过程。
返向传播:
神经网络目标:去更新W,找出什么样的W是最合适的。损失很高,说明W不好。

1.得分函数 f(xi;W,b)

1)从输入到输出的映射

神经网络基础_第1张图片

2)数学表示

3)计算方法

神经网络基础_第2张图片

这里分成了三个类
W:权重系数矩阵
xi:输入(4个像素点)
b:偏置参数矩阵

神经网络基础_第3张图片

4)多组权重参数构成了决策边界

神经网络基础_第4张图片

2.损失函数 L



神经网络基础_第5张图片
神经网络基础_第6张图片

3.前向传播

神经网络基础_第7张图片

4.Softmax分类器

神经网络基础_第8张图片

神经网络基础_第9张图片

梯度下降




神经网络基础_第10张图片

2.反向传播

神经网络基础_第11张图片
神经网络基础_第12张图片
神经网络基础_第13张图片
神经网络基础_第14张图片

神经网络基础_第15张图片



神经网络基础_第16张图片

神经网络基础_第17张图片

神经网络基础_第18张图片

神经网络基础_第19张图片
神经网络基础_第20张图片

你可能感兴趣的:(机器学习,深度学习,机器学习,人工智能,深度学习,神经网络)