Datawhale第10期组队学习活动：《动手学深度学习》课程笔记第一次打卡

Datawhale第10期组队学习活动：《动手学深度学习》课程笔记第一次打卡

课程页面：https://www.boyuai.com/elites/course/cZu18YmweLv10OeV

1 准备

1.1代码环境搭建

pytorch快速安装【清华源】
我之前已经安装anaconda。所以我选择conda模式安装，该方式方便快捷：
按照官网（https://pytorch.org/）的方法安装pytorch
根据自己的选择，得到应该正确运行的代码

conda install pytorch torchvision cudatoolkit=10.1 -c pytorch

当然，直接运行这行代码也不是不行，就是你会被下载速度搞崩溃，毕竟1个多G的内容要下载。在这里我们换用大家都在用的清华源

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --set show_channel_urls yes
# reference
# https://mirror.tuna.tsinghua.edu.cn/help/anaconda/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/

然后直接运行下面的命令就可以愉快的快速安装了：

conda install pytorch torchvision cudatoolkit=10.1 -c pytorch

至此，我们就可以在anaconda以及pycharm上实现课程中的代码了

1.2学习方式

在这里，我引用一位小伙伴的学习方式，我用着蛮舒服的，在这里记录一下：
（1）课程jupyter写得很好，第一步先自行看jupytern的知识基础，有能力的话先自己过一遍代码
（2）第二步带着疑问去看代码讲解视频，解答自己之前的疑惑，记录在代码注释里，成为自己的东西
我是把jupyter的代码自己保存到了本地（fork），打开个人项目运行后点jupyter右上角的 文件——导出 可以保存，然后把通过视频学到的注释在代码旁

（3）如果还有没有解决的疑问或学的不是很懂，可以看网页版的《动手学深度学习》电子书http://tangshusen.me/Dive-into-DL-PyTorch/#/或是其他两门基础的课程，如果还不是很懂，可以在评论区和群里谈论交流。

2 第一天内容

2.1 线性回归

（1）线性回归的基本要素
（2）线性回归模型从零开始的实现
（3）线性回归模型使用pytorch的简洁实现

2.2 softmax与分类模型

（1）softmax回归的基本概念
（2）如何获取Fashion-MNIST数据集和读取数据
（3）softmax回归模型的从零开始实现，实现一个对Fashion-MNIST训练集中的图像数据进行分类的模型
（4）使用pytorch重新实现softmax回归模型

2.3 多层感知机

（1）多层感知机的基本知识
（2）使用多层感知机图像分类的从零开始的实现
（3）使用pytorch的简洁实现

3 第二天学习内容

3.1文本预处理

文本是一类序列数据，一篇文章可以看作是字符或单词的序列，本节将介绍文本数据的常见预处理步骤，预处理通常包括四个步骤：
（1）读入文本
（2）分词
（3）建立字典，将每个词映射到一个唯一的索引（index）
（4）将文本从词的序列转换为索引的序列，方便输入模型

3.2语言模型

（1）语言模型的概念
（2）N元语法
（3）时序数据的采样（随机采样+相邻采样）

3.3循环神经网络基础

（1）循环神经网络的构造
（2）从零开始实现循环神经网络
（3）循环神经网络的pytorch实现