神经网络基础

得分函数

神经网络基础_第1张图片

计算方法

调整w权重,使其输出结果的cat分类分数更高

神经网络基础_第2张图片

损失函数

函数+1,表示准确率至少高一个值。
神经网络基础_第3张图片

神经网络基础_第4张图片

神经网络基础_第5张图片

前向传播整体流程

softmax分类器

神经网络基础_第6张图片
normalize - 归一化,转换为概率值
神经网络基础_第7张图片

神经网络基础_第8张图片

整体架构

神经网络基础_第9张图片
神经网络基础_第10张图片
神经网络基础_第11张图片
神经网络基础_第12张图片
神经网络基础_第13张图片
神经网络基础_第14张图片
权重参数矩阵吗,将输入数据,转化为隐藏层1,再经过非线性变换,再作为隐藏层2的输入

神经网络基础_第15张图片

神经网络基础_第16张图片

正则化与激活函数

神经网络基础_第17张图片
神经网络基础_第18张图片

神经网络过拟合解决方法

每次训练。每一层中随机选择固定比例神经元不用。
神经网络基础_第19张图片

你可能感兴趣的:(深度学习,神经网络,人工智能,深度学习)