OpenMMLab AI实战营第一天笔记

计算机视觉基础与openmmlab介绍

机器学习和神经网络简介

机器学习基础

机器学习是什么?
从数据中学习经验,以解决特定问题。

机器学习的典型范式

  • 监督学习
    有标签
  • 无监督学习
    无标签
  • 强化学习
    让智能体自己适应环境

机器学习中的分类问题

垃圾信件分类
OpenMMLab AI实战营第一天笔记_第1张图片
特征与分类
OpenMMLab AI实战营第一天笔记_第2张图片
拟合出来是一条直线,称为线性分类器。
线性分类器假设类别和特征之间存在某种线性关系,换言之,不同类的数据在特征空间中可以被一条线分开。
OpenMMLab AI实战营第一天笔记_第3张图片
OpenMMLab AI实战营第一天笔记_第4张图片
感知器:从数据中学习

OpenMMLab AI实战营第一天笔记_第5张图片
机器学习的基本流程
以分类问题为例,采用机器学习的方法解决实际问题通常需要3个步骤:
OpenMMLab AI实战营第一天笔记_第6张图片

神经网络

线性分类器与非线性分类器
OpenMMLab AI实战营第一天笔记_第7张图片
异或问题是非线性分类问题
OpenMMLab AI实战营第一天笔记_第8张图片
神经元
OpenMMLab AI实战营第一天笔记_第9张图片
权重 weight:

  • 连接线上的值,即图中的w1,w2,… …,wd
  • 不同的权值,输出结果不同。

偏置值 bias:

  • 输入x1,x2,… …,xd进行加权求和之后,需要加上一个偏置值b

激活函数:

  • 给神经网络加入非线性变换,使其能解决非线性分类问题
  • 不包含可学习参数
  • 常见的激活函数有:Sigmoid、ReLU等等

OpenMMLab AI实战营第一天笔记_第10张图片
多层感知器
OpenMMLab AI实战营第一天笔记_第11张图片

神经网络的训练

衡量神经网络的性能:损失函数
OpenMMLab AI实战营第一天笔记_第12张图片
OpenMMLab AI实战营第一天笔记_第13张图片
调整w,降低损失函数的值:梯度下降算法
OpenMMLab AI实战营第一天笔记_第14张图片
梯度下降算法
OpenMMLab AI实战营第一天笔记_第15张图片
梯度的计算
OpenMMLab AI实战营第一天笔记_第16张图片
反向传播算法
OpenMMLab AI实战营第一天笔记_第17张图片
基于梯度下降训练神经网络的整体流程
OpenMMLab AI实战营第一天笔记_第18张图片
欠拟合、拟合与过拟合
OpenMMLab AI实战营第一天笔记_第19张图片
早停 Early Stopping
OpenMMLab AI实战营第一天笔记_第20张图片

卷积神经网络

卷积神经网络的整体结构
OpenMMLab AI实战营第一天笔记_第21张图片
卷积层
OpenMMLab AI实战营第一天笔记_第22张图片
OpenMMLab AI实战营第一天笔记_第23张图片
OpenMMLab AI实战营第一天笔记_第24张图片
OpenMMLab AI实战营第一天笔记_第25张图片
OpenMMLab AI实战营第一天笔记_第26张图片
卷积的变形
OpenMMLab AI实战营第一天笔记_第27张图片
激活层
OpenMMLab AI实战营第一天笔记_第28张图片
池化层
OpenMMLab AI实战营第一天笔记_第29张图片
全连接层
OpenMMLab AI实战营第一天笔记_第30张图片
概率输出层
OpenMMLab AI实战营第一天笔记_第31张图片
特征与分类的角度理解CNN
OpenMMLab AI实战营第一天笔记_第32张图片

参考文档

OpenMMLab AI实战营——01 计算机视觉算法基础与OpenMMLab介绍

你可能感兴趣的:(人工智能,深度学习)