人工神经网络简介

人工神经网络

本内容只涉及到其中的部分概念，其后续内容有待补充。

智能是个体有目的的行为，合理的思维以及有效的适应环境的综合能力

人工智能研究怎么让计算机模仿人从事推理、设计、思考、学习等思维活动

人工神经网络是一种旨在模拟人脑结构及其功能的脑式只能信息处理系统。它是一种数学模型，并且以电子线路来实现，也可以通过计算机程序来模拟，是人工智能的一种研究方法。

智能

智能包括以下方面的能力：

• 感知与认识客观事物
• 学习取得知识并积累知识
• 理解知识，运用知识进行分析解决
• 联想、推理、判断和决策的能力
• 运用语言性抽象概括
• 发现、发明、创造
• 实时应付复杂环境
• 预测、洞察事物的发展

人工智能

人工智能最初于1956年被引入，其主要研究怎么让计算机模仿人脑从事推理、设计、思考、学习等思维活动，以解决和处理较复杂的问题。简单来说，人工智能就是研究如何让计算机模仿人脑进行工作。

其中有以下应用领域不同，有多个代表性的流派：

• 符号主义学派(源于数学逻辑)
• 联结主义学派(源于仿生学)
• 行为主义学派(源于控制论)

人工神经网络

1.萌芽期

M-P模型、人工神经网络的学习规则

2.第一高潮期

单层感知器

3.反思期

Arbib竞争模型、Kohonen自组织映射、Grossberg自适应共振模型、Rumellhart人的并行分布处理模型。

4.第二高潮期

循环网络、BP算法、Boltzmann机

5.新时期

神经网络已经涉及多方面的学科

ANN与大数据

大数据时代来临中，深度学习的概念以及应用逐步为人工智能带来了机会。现阶段主要体现在三个方面：文本、图像、语音识别。

DL、Google Brain训练大规模人工神经网络的框架、deepface人脸识别

基本特征：

• 并行性
• 分布性
• 信息处理单元的互联性
• 结构可塑性

性能特点：

• 高度非线性
• 良好容错性

神经网络模型

按照拓扑结构可以分成层次模型和互联结构

按照信息流向可以分成前馈性网络和反馈型网络

前馈神经网络是一种最简单的神经网络了，采用单项多层结构。它包括三类节点：输入节点、隐藏节点、输出节点。隐藏层可以没有，但是输入输出层必须有。

反馈神经网络三十一种将输出经过一步时移再介入到输入层的神经网络。

神经网络学习规则

学习是指通过训练使得个体在行为上产生较为持久改变的过程，一般来说效果随着训练了的增加而增高，即通过学习使得自身的进步。

人工神经网络的功能由其拓扑结构和网络的连接权值决定。其学习在于通过对样本的学习训练，不断改变网络的拓扑结构和连接权值使得输出不断接近期望输出值

1.赫布法则

赫布法则作为无监督神经网络的学习规则，广泛应用于自组织神经网络、竞争网络中。

它主要以巴普洛夫的条件反射实验相关联。

2.连续感知器学习规则——Delta学习规则

根据神经元的实际输出与期望输出的差别来调整连接权。

损失函数：用于衡量最优策略，通常是一个非负实数值。它衡量预测与真实结果的差距。而通过各种方式缩小损失函数的过程称为优化。

绝对值损失函数、平方损失函数每个样本的误差为证书，累加不会被抵消。且平方对于大误差的惩罚力度更大。计算简单友好，其导数为一次函数。

3.最小均方差学习规则

它使得神经元实际输出和期望输出之间的二次方最小

单层感知器

感知器用于线性可分模式分类的最简单的神经网络模型。它由一个具有可调树突值和偏置的神经元组成。实际上就是一个简单的单层神经网络模型。单节点感知器就是MP模型，首次提出了学习的概念。

单层感知器的本质上就是一个非线性前馈网络，同层内无互联，不同层间无反馈，并由下层到上层传递。

单层感知器是通过计算权重和输入乘积的和，根据正负来判断分类。

分类逻辑：

• 计算各输入变量加权和
• 根据加权和是否大于0进行分类结果