机器学习基础知识（一）：机器学习三大流派

行为主义派（Actionism）

行为主义又称为进化主义或控制论学派，是一种基于“感知——行动”的行为智能模拟方法，行为主义最早来源于20世纪的一个心理学流派，认为行为是有机体用以适应环境变化的各种身体反应的组合，它的理论目标在预见和控制行为。

其侧重核心在于控制论，认为人工智能源于控制论。控制论思想早在20世纪40~50年代就成为时代思潮的重要部分，影响了早期的人工智能工作者。维纳(Wiener)和麦克洛克(McCulloch)等人提出的控制论和自组织系统以及钱学森等人提出的工程控制论和生物控制论，影响了许多领域。控制论把神经系统的工作原理与信息理论、控制理论、逻辑以及计算机联系起来。早期的研究工作重点是模拟人在控制过程中的智能行为和作用，如对自寻优、自适应、自镇定、自组织和自学习等控制论系统的研究，并进行“控制论动物”的研制。到20世纪60~70年代，上述这些控制论系统的研究取得一定进展，播下智能控制和智能机器人的种子，并在20世纪80年代诞生了智能控制和智能机器人系统。行为主义是20世纪末才以人工智能新学派的面孔出现的，引起许多人的兴趣。这一学派的代表作者首推布鲁克斯(Brooks)的六足行走机器人，它被看作是新一代的“控制论动物”，是一个基于感知-动作模式模拟昆虫行为的控制系统。

连接主义派（Connectionism）

连接主义又称仿生学派或生理学派，是一种基于神经网络及网络间的连接机制与学习算法的智能模拟方法，其原理主要为神经网络和神经网络间的连接机制和学习算法，之一学派认为人工智能源于仿生学，特别是对人脑模型的研究。

它的代表性成果是1943年由生理学家麦卡洛克(McCulloch)和数理逻辑学家皮茨(Pitts)创立的脑模型，即MP模型，开创了用电子装置模仿人脑结构和功能的新途径。它从神经元开始进而研究神经网络模型和脑模型，开辟了人工智能的又一发展道路。20世纪60~70年代，连接主义，尤其是对以感知机(perceptron)为代表的脑模型的研究出现过热潮，由于受到当时的理论模型、生物原型和技术条件的限制，脑模型研究在20世纪70年代后期至80年代初期落入低潮。直到Hopfield教授在1982年和1984年发表两篇重要论文，提出用硬件模拟神经网络以后，连接主义才又重新抬头。1986年，鲁梅尔哈特(Rumelhart)等人提出多层网络中的反向传播(BP)算法。此后，连接主义势头大振，从模型到算法，从理论分析到工程实现，伟神经网络计算机走向市场打下基础。现在，对人工神经网络(ANN)的研究热情仍然较高，但研究成果没有像预想的那样好。

符号主义派（Symbolism）

符号主义是一种基于逻辑推理的智能模拟方法，又称为逻辑主义、心理学派或计算机学派，其原理主要为物理符号系统假设和有限合理性原理，长期以来在人工智能中处于主导地位。

其核心侧重于数理逻辑。数理逻辑从19世纪末起得以迅速发展，到20世纪30年代开始用于描述智能行为。计算机出现后，又在计算机上实现了逻辑演绎系统。其有代表性的成果为启发式程序LT逻辑理论家，它证明了38条数学定理，表明了可以应用计算机研究人的思维过程，模拟人类智能活动。正是这些符号主义者，早在1956年首先采用“人工智能”这个术语。后来又发展了启发式算法>专家系统>知识工程理论与技术，并在20世纪80年代取得很大发展。符号主义曾长期一枝独秀，为人工智能的发展作出重要贡献，尤其是专家系统的成功开发与应用，为人工智能走向工程应用和实现理论联系实际具有特别重要的意义。在人工智能的其他学派出现之后，符号主义仍然是人工智能的主流派别。这个学派的代表人物有纽厄尔(Newell)、西蒙(Simon)和尼尔逊(Nilsson)等。

PS：目前，不论是符号主义（传统机器学习）还是连接主义（深度学习）都已大放光彩，可以预见的行为主义流派也会逐步迎来繁盛期。之所以会有如此的推断，是因为控制论与系统是分不开的，而一个系统的仿真是离不开巨大的运算量。当硬件算力的进一步提升，对一些复杂系统的模拟运算可以快速实践时，那么诸如复杂性系统中的演化和涌现的等现象会为人工智能带来更长足的进步。