神经网络（一）：神经网络数学模型及结构

学习神经网络在网上看了很多学习资料，乍一接触说实话，没理解…

研究神经网络的都是计算机专家，每次介绍都必先介绍神经网络和生物神经的相似性，作为站在生物学门口的学习者，我一直试图用神经咋样咋样的去理解，后来在仔细研究卷积的过程时才发现，好像根本和生物神经的相似性不大，而和自己学过的数值分析内容极其相似，所以我打算用数值分析的理解方式来理解神经网络。

一、神经网络流程

首先，介绍一下神经网络的框架、运作流程：

这是我理解的神经网络流程。神经网络的作用是对你输入的X给出一个结果y，不同于不同冯诺依曼结构的是，你不必知道X与y之间到底存在什么样的一个函数关系。而为了得到正确的y，你需要找到X和y之间的具体表达方法。正向计算模块（前向计算模块）是为了计算y的，这个事先随意给定权重W，但是这个W并不正确，此时既需要反向计算模块去不断的更新W，找到接近正确答案的W，通过迭代不断的优化W。

那到底怎么去完成这个流程呢？我们要先了解一些数学基础。

 

二、数值分析基础

 

（这些知识都是我自己的一些理解，也许表述不够标准正确，欢迎大家补充指正）

 

数值分析（数值计算）的目的是为了找出离散数据之间的关系而产生的一门计算学科。而其中一个重要的基础是，任何一个连续函数可以近似的用多项式来表示，比如典型的拉格朗日插值多项式。而在解决一些位置函数的离散数据时，便可以利用插值的方法建立多项式来得到一个近似拟合实际函数多项式。Loss函数就是描述已给的离散数据正确y值与你的多项式的近似程度。

 

三、神经网络框架

这个图是我在网上随便找的一个框架图。（不得不说看框架长的确实挺像神经元）。其实这就是一个卷积的过程，卷积大概可以理解为（ax2+bx）（cx2+dx），也就是多项式相乘。其实这样一看就很像数值分析了。所以我理解的神经网络就是利用数值分析的方法去拟合出一个X与y之间的多项式，然后利用这个多项式去预测未知输入X的结果y。而权重W就是多项式的系数。

 

不过多层神经网络显然比我学的数值分析复杂，所以还需要学一下这种多元情况下的计算方式，也正好再复习一下数值分析的内容。等复习后在下一篇中再补充一些计算的公式等具体的细节内容吧。这一篇先记录一下计算的结构和思想。