课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)

本系列笔记是对深蓝学院所开设的课程:《三维点云处理》的笔记 课程每周更新,我也会努力将每周的知识点进行总结,并且整理成笔记发上来,欢迎各位多多交流&批评指正!!

本文主要为课程第五章的笔记!
由于第五章开始进行深度学习领域知识讲解,因此不仅知识量陡增,课程量也加大,因此本章将分为上下两篇笔记进行记录。

课程链接:

三维点云处理——深蓝学院
正式内容: ####################################################
本节课大纲:

Introduction to Deep Learning

快速的回顾深度学习相关基础知识:
本节内容安排:
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第1张图片
本节课预计目标:
对深度学习有了解与认识;对pointnet有了解与认识;;将pointnet用在具体的应用当中
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第2张图片

深度学习概述

  1. 老生常谈:人工智能、机器学习、深度学习关系
    课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第3张图片
  2. 传统机器学习VS深度学习

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第4张图片
深度学习更像一个黑盒子,将内容封装起来

  1. 深度学习——可以理解成一个优化问题

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第5张图片

深度学习概述

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第6张图片
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第7张图片
梯度下降法:

梯度下降的原理虽然不复杂,但是非常基础,可以解决常见的优化问题
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第8张图片
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第9张图片
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第10张图片
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第11张图片

神经元基本表达形式:

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第12张图片
神经元训练:

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第13张图片
判断模型效果/接近 :损失函数
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第14张图片
常见的 损失函数 如: 交叉熵函数

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第15张图片

SoftMax: 将输出分数转化为概率
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第16张图片
多层感知机:
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第17张图片

线性模型的问题: 无法模拟抑或问题
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第18张图片
因此需要引入非线性模型——激活函数

激活函数: Relu ELU 等
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第19张图片
全连接神经网络: 理论上可以模拟任何一个函数

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第20张图片
神经网络: 梯度下降+反向传播

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第21张图片
卷积神经网络:CNN

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第22张图片
卷积操作:

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第23张图片
卷积神经网络比全连接的优势:
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第24张图片
CNN padding 一般加0 为了保持形状
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第25张图片
CNN stride 步长
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第26张图片

拓展至二维卷积

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第27张图片

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第28张图片
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第29张图片

池化
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第30张图片
总结:
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第31张图片
一些拓展:
三维卷积:
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第32张图片

PointNet & PointNet++

深度学习点云处理:大致可以有三种解决思路

  1. 三维卷积
  2. 投影到二维空间,而后用二维卷积
  3. 直接处理原始点云

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第33张图片

  1. 三维卷积 典型代表: voxnet
    非常经典
    局限性:1. 浪费空间内存 2.有精度损失
    课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第34张图片
  2. 多视角降维: MVCNN

局限性:计算量大且难拓展
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第35张图片

点云的性质:
无序性;旋转/缩放不变性

pointnet 点云处理的奠基之作

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第36张图片
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第37张图片

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第38张图片
作者证明了pointnet可以模拟任何一个函数,这点非常重要
从理论上给pointnet提供了发展潜力的支持

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第39张图片
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第40张图片
事实证明,在大量减轻计算量后,效果依旧很不错:

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第41张图片
除了做分类,还能做分割

在这里插入图片描述

鲁棒性:
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第42张图片
特征点提取与增强:

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第43张图片
pointnet拓展:voxel feature encoding
事实上就是把两个pointnet叠在一起了
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第44张图片
pointnet的局限性 没有逐层提取,损失了很多信息
本文作者在pointnet++中做出了改进。
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第45张图片

pointnet++

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第46张图片
核心思想:引入了逐层的特征提取 添加了多层的 set abstraction模块

set abstraction模块
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第47张图片
必须要把区域的每个点做一个normalization

事实上,可以通过一些设置,如设置不同的感受半径得到不同尺度的特征向量
多尺度:
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第48张图片
多 resolution:

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第49张图片
特征分割:
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第50张图片
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第51张图片
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第52张图片
效果有提升,稳定性有明显提升
课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第53张图片

两个网络总结:

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第54张图片
在做两个网络时都要注意对于数据进行预处理

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第55张图片

作业

课程笔记-三维点云处理05 ——Deep Learning on Point Cloud (上)_第56张图片
自己实践一下 pointnet

写一个报告 有过程,有结果训练精度。

你可能感兴趣的:(课程笔记,卷积,神经网络,深度学习,人工智能)