[PyTorch][chapter 7][李宏毅深度学习][深度学习简介]

前言:

        深度学习常用的开发平台

TensorFlow

torch

theano

caffe

DSSTNE

mxnet

libdnn

CNTK

 目录:

     1: 深度学习发展历史

     2: DeepLearning 工程简介

     3: DNN 简介

        


一 发展历史

[PyTorch][chapter 7][李宏毅深度学习][深度学习简介]_第1张图片


二 DeepLearning 工程简介

      深度学习三大步:

   

  定义映射函数(神经网络)
  定义损失函数
  通过梯度更新,选择最好的映射函数

       [PyTorch][chapter 7][李宏毅深度学习][深度学习简介]_第2张图片

   2.1 Neural Network

        给定了一个函数,可以设置不同的参数,所以对应为

一个函数集合

[PyTorch][chapter 7][李宏毅深度学习][深度学习简介]_第3张图片

    z^{l+1}=X^{l}w^{l}+b^{l}

    a^{l+1}=\sigma(z^{l+1})

   不同模型在图像识别上面的错误率,

[PyTorch][chapter 7][李宏毅深度学习][深度学习简介]_第4张图片


三 DNN

    深度神经网络(Deep Neural Networks, 以下简称DNN)是深度学习的基础,这里面结合

手写数字的例子简单的介绍一下

   3.1 模型

         [PyTorch][chapter 7][李宏毅深度学习][深度学习简介]_第5张图片

  可以分为三部分:

      输入层,隐藏层,输出层

   3.2 损失函数

       L(y,\hat{y})=-\sum_{i}^{10}\hat{y_i}log y_i

[PyTorch][chapter 7][李宏毅深度学习][深度学习简介]_第6张图片

  3.3 Graident Descent

      通过Backpropagation(反向传播算法)更新梯度,Backpropagation 后面会单独介绍

[PyTorch][chapter 7][李宏毅深度学习][深度学习简介]_第7张图片

参考:

6: Brief Introduction of Deep Learning_哔哩哔哩_bilibili

你可能感兴趣的:(人工智能)