吃瓜教程 | Datawhale 打卡（Task 04）

M-P神经元模型
基于人类神经元的多突触传递——而研究出的人工神经元，允许多个输入，并根据连接权以及阈值的到预测的输出。
这种“阈值加权和”的神经元模型称为 M-P模型 ( McCulloch-Pitts Model )，也称为神经网络的一个 处理单元( PE, Processing Element )。

大家可以查一查一些生物方面的书籍，了解一下这个神经元是如何工作的。我们可以概括出生物神经网络的假定特点：

1. 每个神经元都是一个 多输入单输出的信息处理单元；
2. 神经元输入 分兴奋性输入和 抑制性输入两种类型；
3. 神经元具有 空间整合特性和 阈值特性；
4. 神经元输入与输出间有固定的 时滞，主要取决于突触延搁

而多个神经元的组合，再按照一定层次的排布就得到了神经网络。

激活函数
(1) 线性函数 ( Liner Function )

(2) 斜面函数 ( Ramp Function )

(3) 阈值函数 ( Threshold Function）

以上3个激活函数都属于线性函数，下面介绍两个常用的非线性激活函数。

(4) S形函数 ( Sigmoid Function )

(5) 双极S形函数

Reference

• https://blog.csdn.net/u013007900/article/details/50066315
• 《机器学习》周志华著