机器学习算法

机器学习是实现人工智能得一种方法，sklearn是机器学习的一种通用框架，已经研究出的算法包括如下：

一.决策树算法decision tree

信息熵概念是什么；

决策树属于监督学习；

二.knn算法

三.支持向量机

四.多层向前神经网络结构Neural Network

1.backpropagation反向传播算法应用到多层向前神经网络中；

2.多层向前神经网包括一个输入层，一个输出层，多个隐藏层，每层由多个单元组成；

3.神经网络既可以解决分类问题也可以解决回归问题，特征值离散是分类，特征值是连续的是回归；

交叉验证方法判断准确度；

4.sigmoid函数，非线性关系，在0，1之间，s型渐变得曲线，包括双曲函数、逻辑函数。

五.深度学习

深度学习是实现机器学习的一种技术，框架tensorflow，数据集mnist。

二次代价函数获得loss，

使用tensorflow梯度下降法优化器训练，最小化二次代价函数。