机器学习基本概念

监督学习

分类问题

• 输出是有限的，例如二分类问题，比如判断一个西瓜是好瓜、坏瓜。
• 常用算法：近邻法、感知机、朴素贝叶斯法、决策树、逻辑斯谛回归模型、SVM(支持向量机 Support Vector Machine)、adaBoost、贝叶斯网络、神经网络等。

回归问题

• 输入输出都是连续的，例如线性回归问题，对房价的预测$y=f(x)$，x表示房屋面积，预测出其售价y。
• 常用算法：神经网络回归、决策树回归、LASSO回归。

标注问题

• 标注问题是分类问题的推广，比如给定一串单词组成的句子即观测序列，输出每个单词对应的词性即输出序列。
• 常用算法：隐性马尔可夫模型、条件随机场。

人工智能三大主义

符号主义

符号主义注重数理逻辑，认为人类思维的基本单元是符号，而基于符号的一系列运算就构成了认知的过程，所以人和计算机都可以被看成具备逻辑推理能力的符号系统，换句话说，计算机可以通过各种符号运算来模拟人的“智能”。比如有一款程序证明了某书中的38条定理，某些定理的证明甚至比作者本人还巧妙。符号主义的体现如知识图谱，就是以符号化来表示自然世界中的概念及其相互关系。
难题在于人如何提炼出知识再将知识传授给计算机，即在于对机器的输入。

行为主义

行为主义的来源于控制论，主要思想是不断试错然后不断进化，类似于达尔文的进化论，其体现在强化学习中，如上世纪的西洋跳棋，本世纪的AlphaGo，波士顿动力的机械狗。

连接主义

连接主义认为人的智能来源于神经元细胞错综复杂的联系，尝试用模拟大量神经元的信号传输方式来模拟大脑的智力，连接学派通过算法模拟神经元，并把这样一个单元叫做感知机，将多个感知机组成一层网络，多层这样的网络互相连接最终得到神经网络。该主义的体现在深度学习，如计算机视觉中的attention机制及是仿生学的应用。

人工智能：行为主义