斯坦福cs224n教程--- 学习笔记1

一、前言

自然语言是人类智慧的结晶，自然语言处理是人工智能中最为困难的问题之一，而对自然语言处理的研究也是充满魅力和挑战的。 通过经典的斯坦福cs224n教程，让我们一起和自然语言处理共舞！也希望大家能够在NLP领域有所成就！

 

二、先修知识（学习的过程中可以遇到问题后再复习）

• 了解python基础知识
• 了解高等数学、概率论、线性代数知识
• 了解基础机器学习算法：梯度下降、线性回归、逻辑回归、Softmax、SVM、PAC（先修课程斯坦福cs229 或者周志华西瓜书）
• 具有英语4级水平（深度学习学习材料、论文基本都是英文，一定要阅读英文原文，进步和提高的速度会加快！！！！）
• 以上知识要求内容可在最下方的知识工具中查找

 

三、每周学习时间安排

每周具体学习时间划分为4个部分:

• 1部分安排周一到周二
• 2部分安排在周四到周五
• 3部分安排在周日
• 4部分作业是本周任何时候空余时间
• 周日晚上提交作业运行截图
• 周三、周六休息^_^

 

（以下的部分链接在手机端无法正常显示，请复制链接到电脑浏览器打开）

 

四、分节学习内容

第1部分学习任务：

（1）观看自然语言处理课学习绪论，了解深度学习的概括和应用案例以及训练营后续的一些学习安排

学习时长：11/30—12/2

绪论视频地址： https://m.weike.fm/lecture/10194068

（2）自然语言处理和深度学习简介，观看课件lecture01、视频1、学习笔记

学习时长：11/30—12/4

• 课件: lecture01（链接地址： https://github.com/learning511/cs224n-learning-camp/blob/master/lecture-notes/cs224n-2017-lecture1.pdf ）
• 观看视频1（链接地址： https://www.bilibili.com/video/av30326868/?spm_id_from=333 .788.videocard.0）
• 学习笔记：自然语言处理与深度学习简介（链接地址： http://www.hankcs.com/nlp/cs224n-introduction-to-nlp-and-deep-learning.html ）

 

第4部分作业：Assignment 1.1-1.2（链接地址： https://github.com/learning511/cs224n-learning-camp/blob/master/Assignmnet.md ）

• 1.1 Softmax 算法
• 1.2 Neural Network Basics 神经网络基础实现

完成时间：任何空余时间

作业截止提交时间：12/9号之前

作业提交指南：

将作业发送到训练营公共邮箱即可，训练营以打卡为主，不用提交作业。以下为注意事项:

<0> 课程资料：链接 （ https://pan.baidu.com/share/init?surl=p1J9kyoNZIwqCRmaX6lvoQ ）密码：zwjr

<1> 训练营代码公共邮箱：[email protected]

<2> 将每周作业压缩成zip文件，文件名为“学号+作业编号”，例如："NLP010037-01.zip"

<3> 注意不要改变作业中的《方法名》《类名》不然会检测失败！！ 

下图为提交示例：

 

 

课程资料：

课程主页： https://web.stanford.edu/class/cs224n /

中文笔记： http://www.hankcs.com/nlp/cs224n-introduction-to-nlp-and-deep-learning.html

课程视频： https://www.bilibili.com/video/av30326868/?spm_id_from=333 .788.videocard.0

实验环境推荐使用Linux或者Mac系统，以下环境搭建方法皆适用:

· Docker环境配置： https://github.com/ufoym/deepo

· 本地环境配置： https://github.com/learning511/cs224n-learning-camp/blob/master/environment.md

注册一个github账号：github.com

后续发布的一些project和exercise会在这个github下：

 https://github.com/learning511/cs224n-learning-camp

重要的一些资源：

深度学习斯坦福教程： http://deeplearning.stanford.edu/wiki/index.php/UFLDL%E6%95%99%E7%A8%8B

廖雪峰python3教程： https://www.liaoxuefeng.com/article/001432619295115c918a094d8954bd493037b03d27bf9a9000

github教程： https://www.liaoxuefeng.com/wiki/0013739516305929606dd18361248578c67b8067c8c017b000

莫烦机器学习教程： http://morvanzhou.github.io/tutorials /

深度学习经典论文： https://github.com/floodsung/Deep-Learning-Papers-Reading-Roadmap

斯坦福cs229代码(机器学习算法python徒手实现)： https://github.com/nsoojin/coursera-ml-py

吴恩达机器学习新书：machine learning yearning： https://github.com/AcceptedDoge/machine-learning-yearning-cn

清华大学NLP实验室总结机器阅读论文、数据集： https://github.com/thunlp/RCPapers

本人博客(机器学习基础算法专题)： https://blog.csdn.net/dukuku5038/article/details/82253966

本人博客(深度学习专题)： https://blog.csdn.net/column/details/28693.html

斯坦福cs20I课件： https://github.com/learning511/cs224n-learning-camp/tree/master/cs20is

AI比赛经验+开源代码汇总： https://blog.csdn.net/dukuku5038/article/details/84195750

 

知识工具

为了让大家逐渐适应英文阅读，复习材料我们有中英两个版本，但是推荐大家读英文

数学工具

斯坦福资料：

• 线性代数（链接地址： http://web.stanford.edu/class/cs224n/readings/cs229-linalg.pdf ）
• 概率论（链接地址： http://101.96.10.44/web.stanford.edu/class/cs224n/readings/cs229-prob.pdf ）
• 凸函数优化（链接地址： http://101.96.10.43/web.stanford.edu/class/cs224n/readings/cs229-cvxopt.pdf ）
• 随机梯度下降算法（链接地址： http://cs231n.github.io/optimization-1 /）

中文资料：

• 机器学习中的数学基本知识（链接地址： https://www.cnblogs.com/steven-yang/p/6348112.html ）
• 统计学习方法（链接地址： http://vdisk.weibo.com/s/vfFpMc1YgPOr ）
• 大学数学课本（从故纸堆里翻出来^_^）

编程工具

斯坦福资料：

• Python复习（链接地址： http://web.stanford.edu/class/cs224n/lectures/python-review.pdf ）
• TensorFlow教程（链接地址： https://github.com/open-source-for-science/TensorFlow-Course#why-use-tensorflow ）

中文资料：

• 廖雪峰python3教程（链接地址： https://www.liaoxuefeng.com/article/001432619295115c918a094d8954bd493037b03d27bf9a9000 ）
• 莫烦TensorFlow教程（链接地址： https://morvanzhou.github.io/tutorials/machine-learning/tensorflow /）

 

摘自微信公众号: 深度之眼