深度学习笔记（一）深度学习的基本知识

深度学习笔记（一）深度学习的基本知识

人工智能、机器学习、深度学习之间的关系

人工智能是机器具有模仿人类的功能。

机器学习是人工智能的分支，机器利用统计技术从以前的信息和经验学习。

深度学习是机器学习的一个分支，采用深层多层神经网络来预测，在图像识别、自然语言识别、语音识别表现优异。

神经网络

神经网络是一个简化的人脑模型，和大脑非常相似，他的神经元在遇到熟悉的事物时会激活。

最简单神经元：感知器。

output=f(x1,x2,x3)=x1w1+x2w2+x3*w3+b

多个隐藏层非线性越好

反向传播，在做预测时看看距离实际有多少误差，把误差传播回网络。

深度学习的组成方案要素：

数据集+模型（视觉、文本、分割）+框架（tensorflow）+硬件=深度学习解决方案

迁移学习（transfer learning）可以将最初是在大数据集训练下的模型，调整到小数据集上。

模型：

高层次来说，模型是个函数，接受一个或多个输入，给一个输出，输入可以是文本、图像、音频视频等，结果是一个预测。

模型内部是黑箱，由节点和边组成，节点是数学运算，边表示数据如何流向另一个节点。

节点和边的布局称为模型的体系结构。

训练的结果是一组分配给每个节点的数字（也称权重），这些去权重是模型中节点对输入数据进行操作所必须的参数，在训练开始之前，通常把随机数作为权重。训练过程的目标就是逐步调整参数，直到他们与相应节点一起产生令人满意的预测。

框架：

主流框架，Tensorflow、Keras（简单）、PyTorch。

autoML GUI训练工具，你奶奶也会训练模型了。

可解释性：

机器学习需要自己选择特征，机器学习模型才能学习，这个过程是可控并且可以解释的。

深度学习中特征是自己选取，但是并不知道他学到了什么特性，模型在什么情况下有效，什么情况下无效。

再现性、稳健性：

人工智能安全，单像素点攻击