Udacity深度学习（google）笔记（4）——文本和序列的深度模型（word2vec, RNN, LSTM）

• 非监督学习（应用前景？）
• embeddings: Word2Vec
• t-SNE
• sampled softmax
• CBOW和skip-gram
• 任务 5: Word2Vec and CBOW 
  
• RNN，反向传播
• 梯度消失/爆炸（看看教材的推导和说明）
• LSTM
• Beam搜索（就是有效地一次往前看多步再做决策）
• 任务 6: LSTMs: 训练一个一个长短期记忆网络预测字符串
  

• 机器翻译
• 语音识别
• 图片描述: coco data set
• 实时视频、增强现实

深度学习核心资源

• 吴恩达深度学习
• CS231n: Convolutional Neural Networks for Visual Recognition, Fei-Fei Li (Stanford).
• CS224d: Deep Learning for Natural Language Processing, Richard Socher (Stanford).
• Goodfellow, I., Bengio, Y. and Courville, A. Deep Learning. MIT Press, 2016.
• tensorflow, keras文档

对深度学习的快速入门就到这了，接下来关注在kaggle上磨炼技能，同时通过学习核心资源来提高深度学习的理论。