[转]UFLDL教程

转自UFLDL教程

说明：本教程将阐述无监督特征学习和深度学习的主要观点。通过学习，你也将实现多个功能学习/深度学习算法，能看到它们为你工作，并学习如何应用/适应这些想法到新问题上。

本教程假定机器学习的基本知识（特别是熟悉的监督学习，逻辑回归，梯度下降的想法），如果你不熟悉这些想法，我们建议你去这里

机器学习课程，并先完成第II，III，IV章（到逻辑回归）。

稀疏自编码器

• 神经网络
• 反向传导算法
• 梯度检验与高级优化
• 自编码算法与稀疏性
• 可视化自编码器训练结果
• 稀疏自编码器符号一览表
• Exercise:Sparse Autoencoder

矢量化编程实现

• 矢量化编程
• 逻辑回归的向量化实现样例
• 神经网络向量化
• Exercise:Vectorization

预处理：主成分分析与白化

• 主成分分析
• 白化
• 实现主成分分析和白化
• Exercise:PCA in 2D
• Exercise:PCA and Whitening

Softmax回归

• Softmax回归
• Exercise:Softmax Regression

自我学习与无监督特征学习

• 自我学习
• Exercise:Self-Taught Learning

建立分类用深度网络

• 从自我学习到深层网络
• 深度网络概览
• 栈式自编码算法
• 微调多层自编码算法
• Exercise: Implement deep networks for digit classification

自编码线性解码器

• 线性解码器
• Exercise:Learning color features with Sparse Autoencoders

处理大型图像

• 卷积特征提取
• 池化
• Exercise:Convolution and Pooling

---

注意: 这条线以上的章节是稳定的。下面的章节仍在建设中，如有变更，恕不另行通知。请随意浏览周围并欢迎提交反馈/建议。

混杂的

• MATLAB Modules
• Style Guide
• Useful Links

混杂的主题

• 数据预处理
• 用反向传导思想求导

进阶主题:

稀疏编码

• 稀疏编码
• 稀疏编码自编码表达
• Exercise:Sparse Coding

独立成分分析样式建模

• 独立成分分析
• Exercise:Independent Component Analysis

其它

• Convolutional training
• Restricted Boltzmann Machines
• Deep Belief Networks
• Denoising Autoencoders
• K-means
• Spatial pyramids / Multiscale
• Slow Feature Analysis
• Tiled Convolution Networks

---

英文原文作者: Andrew Ng, Jiquan Ngiam, Chuan Yu Foo, Yifan Mai, Caroline Suen