多层感知机神经网络与损失函数 笔记

1.算法背景

使用算法模拟人脑进行智能运算的结构与模型被称为神经网络。

多层感知机神经网络与损失函数 笔记_第1张图片

人工神经网络简称神经网络,是一种模拟生物神经网络的算法结构与模型。人工神经元主要使用函数来模拟神经元对信息的处理过程。

在神经网络中,神经元不是单个出现的,一个神经元的输入可以来源于外界,也可以来源于上一个神经元。

多层感知机神经网络与损失函数 笔记_第2张图片

2.算法原理

2.1神经元

神经网络的基本的单位是神经元,每个神经元都有输入并产生单个输出。这个输出可以发射到多个其他的神经元。

多层感知机神经网络与损失函数 笔记_第3张图片

2.2激活函数

激活函数是神经网络中神经元的非线性变换函数。

它的主要作用有以下几点:

引入非线性:神经网络如果只由线性层组成,那么无论有多少层,整体仍然是一个线性模型,其表达能力有限。激活函数为网络引入了非线性,使得网络能够学习和拟合复杂的非线性关系,

你可能感兴趣的:(神经网络,笔记,人工智能)