[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep
Auto-encoder;无监督学习:深度自动编码器)

PDF VIEDO

Auto-encoder

什么是-encoder呢?

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第1张图片
这里写图片描述

NN Encoder & NN Decoder 要一起训练。


Starting from PCA

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第2张图片
这里写图片描述

the auto-encoder can be deep

Deep Auto-encoder

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第3张图片
这里写图片描述

PCA&Deep Auto-encoder 比较,明显后者效果更好。

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第4张图片
这里写图片描述

当code为二维时,很明显看到Deep Auto-encoder使数字手写识别集分类地更好。

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第5张图片
这里写图片描述

Auto-encoder – Text Retrieval

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第6张图片
这里写图片描述

Bag-of-word方法将document用向量表示,每一个词都是平等的,无法考虑语义。
而Auto-encoder可以考虑语义。

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第7张图片
这里写图片描述

Auto-encoder – Similar Image Search

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第8张图片
这里写图片描述

但是这样并不能得到想要的结果,杰克逊和马蹄铁都被聚到一起。。。

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第9张图片
这里写图片描述

所以,可以用Pre-training DNN。


Auto-encoder for CNN

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第10张图片
这里写图片描述

CNN -Unpooling

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第11张图片
这里写图片描述

CNN - Deconvolution

Actually, deconvolution is convolution.

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第12张图片
这里写图片描述
[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第13张图片
这里写图片描述
[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)_第14张图片
这里写图片描述

你可能感兴趣的:([机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器))