《动手学深度学习第19页

资源 | 李沐等人开源中文书《动手学深度学习》预览版上线

近日，由AstonZhang、李沐等人所著图书《动手学深度学习》放出了在线预览版，以供读者自由阅读。这是一本面向在校学生、工程师和研究人员的交互式深度学习书籍。

IT派·2022-12-19 00:59

动手学深度学习pytorch版-填坑-AttributeError: ‘Tensor‘ object has no attribute ‘T‘

在8.5节的循环神经⽹络的从零开始实现中这个地方封装进行one_hot编码时候会报错-‘Tensor’objecthasnoattribute‘T’应该是笔误或者版本迭代的问题，实际上pytorch并不支持直接用.T进行张量的转置，常用的方法有tensor.t()ortensor.transpose(dim1,dim2)更改后的整个RNN的从零实现的完整代码：importmathimporttor

不爱写程序的程序猿·2022-12-18 15:45

延迟初始化——【torch学习笔记】

延迟初始化引用翻译：《动手学深度学习》Pytorch（或任何其他框架）没有办法预测网络的输入维度。

一个语文不好的NLPer·2022-12-18 13:47

【动手学深度学习】从resnet中学到的深度学习

1.学习模型的理解对于一类神经网络模型（更多指完备的模型，而非cnn、rnn等类型，如resnet、vgg等），他可以拟合一定范围之内的函数，所有函数构成集合F。其中任意f是我们通过训练得到的，f*是我们所期望得到的函数，但是f*可能在模型函数集合F之中，也可能在F之外。训练是求解以下优化问题：X、Y为训练集中的输入输出，argmin表示返回Loss()函数最小的参数值2.如何保证模型加深能够使结

Maple_66·2022-12-18 11:40

《动手学深度学习》(PyTorch版)环境配置避坑关于anaconda的环境安装、pytorch的安装，以及如何在pycharm中使用配置好的安装有pytorch的anaconda环境

目录2.1.1Anaconda2.1.3PyTorch第一个坑：怎么选择版本第二个坑：安装在哪里？？？第三个坑：在pycharm中怎么用第四个坑：安装的太慢最终的测试2.1.1AnacondaAnaconda指的是一个开源的Python发行版本，是一个安装、管理python相关包的软件，自带了python、JupyterNotebook、Spyder、conda等工具，非常有用。Anaconda中

Te_Fuir6·2022-12-18 02:15

李沐动手学深度学习 pytorch 在pycharm中无法显示动图

学习李沐动手学深度学习过程中，发现无法显示动图，仅仅在输出栏显示以下内容：解决方案：1.“Ctrl+鼠标左键”点击打开训练函数。

穷到学习·2022-12-17 09:51

【笔记】动手学深度学习- softmax回归（逻辑回归）

目录图片分类数据集1导入包2使用框架自带的函数去下载这个数据集3定义两个函数来画这个数据集4读取一个小批量数据5softmax回归简洁实现1导入包2构造模型3交叉熵函数计算loss损失4使用学习率为0.1作为优化函数5跑10次softmax回归从零开始实现1我们使用上面中引入的Fashion-MNIST数据集，并设置数据迭代器的批量大小为256。2将一个二维图片的矩阵拉成一个一维的向量3定义回归函

echo_gou·2022-12-17 09:12

9李沐动手学深度学习v2/逻辑回归（softmax回归（分类））简洁实现

importtorchfromtorchimportnnfromd2limporttorchasd2l#超参数batch_size=256#数据train_iter,test_iter=d2l.load_data_fashion_mnist(batch_size)#模型#pytorch不会调整input的形状#定义展平层（flatten）保留第0维，展开其他维度为1个向量，保留样本数，展开28*2

xcrj·2022-12-17 09:11

Lins H·2022-12-17 07:38

使用colab运行github上的ipynb文件

一般使用方法3、使用colab运行github上的ipynb文1、Windows下安装PyTorch跑深度学习入门深度学习，选择了沐神的《动手学深度学习》，b站上有，这里不多说。

one人参·2022-12-16 19:27

pytorch入门学习书籍

动手学深度学习动手学深度学习(Pytorch)-線上中文電子書动手学深度学习(Pytorch)-程式碼2.官方教程Pytorch官方教程-中文3.MANNINGDeepLearningwithPytorch

被窝里的奶油卷·2022-12-16 13:19

卷积神经网络学习日记（VGG）学习日记

VGG与AlexNet网络结构差异图示（来自李沫《动手学深度学习》）一个VGG块由一系列卷积层组成，在最后连接一个最大汇聚层VGG块代码如下所示：该函数有三个参数，分别对应于卷积层的数量num_convs

吃pepper的dog酱·2022-12-16 12:24

深度学习优化算法：Adam算法

原文链接：动手学深度学习pytorch版：7.8Adam算法github：https://github.com/ShusenTang/Dive-into-DL-PyTorch[1]Kingma,D.P.

ywm_up·2022-12-16 12:49

PyTorch no longer supports this GPU because it is too old

本来学着MXNET来着，因为第一版《动手学深度学习》配套视频用的MXNET，跟着视频学好理解点，结果导师说学校里基本都是用的PyTorch或TensorFlow，刚好第二版的配套视频是用的PyTorch

银域果酒·2022-12-16 11:34

一种win10+GTX1050下配置d2l、gpu_pytorch环境参考方案（2022.12.13）

cpu_pytorch——>gpu_pytorch正确地安装正确的版本附前言Hi，这里介绍windows10+NvidiaGTX1050配置下的一种《动手学深度学习》中的d2l兼gpu_pytorch环境安装方案

时间de沙漏·2022-12-16 11:04

动手学深度学习pytorch版1——win10+CPU下安装mxnet和d2l

课程主页：https://courses.d2l.ai/zh-v2教材：https://zh-v2.d2l.ai/课程论坛讨论：https://discuss.d2l.ai/c/16Pytorch论坛：https://discuss.pytorch.org/温故而知新！！！文章目录安装所遇新问题&解决方法JupyterNotebook使用教程推荐参考文献安装安装请记住关掉代理！！！记住区分base

one_four_zero·2022-12-16 11:02

pytorch学习（二十五）——从零实现多GPU训练

文章目录1.数据并行性2.从零开始实现多GPU训练2.1修改LenNet网络2.2数据同步2.3数据分发2.4数据训练3.简介实现多GPU并行运算4.总结参考李沐老师动手学深度学习V2（强烈推荐看看书）

留小星·2022-12-16 08:32

09.语义分割和数据集

语义分割PDF：part-2_13.pdf(d2l.ai)视频：46语义分割和数据集【动手学深度学习v2】_哔哩哔哩_bilibili语义分割（semanticsegmentation）问题重点关注于如何将图像分割成属于不同语义类别的区域

七仔啊·2022-12-16 01:27

动手学深度学习（三十九）——门控循环单元GRU

一、门控隐藏状态1.1重置门和更新门1.2候选隐藏状态1.3隐藏状态二、从零实现GRU2.1初始化模型参数2.2定义模型2.3训练与预测2.4简洁实现三、小结四、练习再次声明：本文主要参考李沐老师B站动手学深度学习课程进行笔记整理和代码复现

留小星·2022-12-16 00:08

李沐动手学深度学习V2-GRU门控循环单元以及代码实现

一.GRU门控循环单元1.介绍我们可能会遇到这样的情况：1）早期观测值对预测所有未来观测值具有非常重要的意义。考虑一个极端情况，其中第一个观测值包含一个校验和，目标是在序列的末尾辨别校验和是否正确。在这种情况下，第一个词元的影响至关重要，我们希望有某些机制能够在一个记忆元里存储重要的早期信息，如果没有这样的机制，我们将不得不给这个观测值指定一个非常大的梯度，因为它会影响所有后续的观测值。2)一些词

cv_lhp·2022-12-16 00:07

Word2Vec语言模型训练和使用

在pytorch框架下，参考《动手学深度学习》搭建word2vec语言模型，并在IMDB数据集中的train子集训练得到词嵌入。

m0_61142248·2022-12-15 18:36

动手学深度学习Pytorch Task07

本节课内容目标检测基础、图像风格迁移、图像分类案例1一、目标检测基础锚框目标检测算法通常会在输入图像中采样大量的区域，然后判断这些区域中是否包含我们感兴趣的目标，并调整区域边缘从而更准确地预测目标的真实边界框（ground-truthboundingbox）。不同的模型使用的区域采样方法可能不同。这里我们介绍其中的一种方法：它以每个像素为中心生成多个大小和宽高比（aspectratio）不同的边界

李明朔·2022-12-15 14:16

李沐动手学深度学习-学习笔记之线性神经网络

目录1.线性回归1.1损失函数1.2梯度下降2.softmax回归1.线性回归为了解释线性回归，我们举一个实际的例子：我们希望根据房屋的面积（平方英尺）和房龄（年）来估算房屋价格（美元）。为了开发一个能预测房价的模型，我们需要收集一个真实的数据集。这个数据集包括了房屋的销售价格、面积和房龄。在机器学习的术语中，该数据集称为训练数据集（trainingdataset）或训练集（trainingset

zizz7177·2022-12-15 09:22

李沐深度学习笔记-04数据操作

《动手学深度学习》https://zh-v2.d2l.ai/2.记事本https://github.com/d2l-ai/d2l-zh3.数据操作和数据预处理N维数组是机器学习和神经网络的主要数据结构数据操作数据操作实现

爱的小胡·2022-12-15 08:04

batch_size和data_iter的理解

示例代码参考李沐老师的《动手学深度学习》第4节：多层感知机batch_size=256train_iter,test_iter=d2ltorch.load_data_fashion_mnist(batch_size

Space65536·2022-12-15 07:00

文本预处理

参考：8.2.文本预处理—动手学深度学习2.0.0documentation文本的常见预处理步骤：将文本作为字符串加载到内存中。将字符串拆分为词元（如单词和字符）。

流萤数点·2022-12-15 07:13

语言模型（马尔可夫模型，n元语法）

参考：8.3.语言模型和数据集—动手学深度学习2.0.0documentation假设长度为T的文本序列中的词元依次为x1,x2,…,xT。

流萤数点·2022-12-15 07:10

动手学深度学习--预测房价（Kaggle）

目录访问和读取数据集数据预处理处理数据值处理离散值模型训练折交叉验证模型选择提交预测需要注意的函数sliceKaggle的房价预测比赛，一个简单的线性回归练习，包括如何处理数据、输出csv文件，很实用。此数据集由BartdeCock于2011年收集:cite:De-Cock.2011，涵盖了2006-2010年期间亚利桑那州埃姆斯市的房价。https://www.kaggle.com/c/hous

iwill323·2022-12-14 17:28

机器学习/深度学习实战——十行代码预测kaggle房价（automl）

沐神提供在动手学深度学习课程中提供的代码，我在本地进行了复现，这里整理一下。关于数据分析、预处理、用传统机器学习方法进行网络训练可以参考我之前的几篇博客。

留小星·2022-12-13 23:14

动手学深度学习 task_2

过拟合和欠拟合测试数据集不可以用来调整模型参数，如果使用测试数据集调整模型参数，可能在测试数据集上发生一定程度的过拟合，此时将不能用测试误差来近似泛化误差。过拟合是指训练误差达到一个较低的水平，而泛化误差依然较大。欠拟合是指训练误差和泛化误差都不能达到一个较低的水平。发生欠拟合的时候在训练集上训练误差不能达到一个比较低的水平，所以过拟合和欠拟合不可能同时发生。过拟合还可以使用权重衰减和丢弃法来缓解

馒头没有馅儿yolo·2022-12-13 20:54

序列模型——【torch学习笔记】

序列模型引用翻译：《动手学深度学习》人们对电影的意见可以随着时间的推移而发生相当大的变化。事实上，心理学家甚至为其中的一些影响命名。有一种锚定，基于别人的意见。

一个语文不好的NLPer·2022-12-13 09:30

深度强化学习

参考1.引言—动手学深度学习2.0.0documentation深度强化学习（deepreinforcementlearning）将深度学习应用于强化学习的问题，是非常热门的研究领域。

流萤数点·2022-12-13 09:55

动手学深度学习（三十四）——序列模型

文章目录序列模型一、什么是序列模型二、序列模型的统计工具2.1自回归模型1.2马尔可夫模型1.3因果关系二、马尔科夫假设MLP模型训练三、模型预测四、总结序列模型一、什么是序列模型想象一下你正在看Netflix（一个国外的视频网站）上的电影。作为一个很棒的Netflix用户，你决定对每一部电影都给出评价。毕竟，一部好的电影值得好电影的称呼，而且你想看更多的好电影，对吧？事实证明，事情并不那么简

留小星·2022-12-13 09:24

李沐动手学深度学习V2-NLP序列模型和代码实现

一.序列模型1.统计工具处理序列数据需要统计工具和新的深度神经网络架构，如下图股票价格示例所示，其中用xtx_txt表示价格，即在时间步（timestep）t∈Z+t\in\mathbb{Z}^+t∈Z+时，观察到的价格xtx_txt。注意ttt对于本文中的序列通常是离散的，并在整数或其子集上变化。假设一个交易员想在ttt日的股市中表现良好，于是通过以下途径预测xtx_txt：xt∼P(xt∣xt

cv_lhp·2022-12-13 09:53

序列模型（自回归模型，马尔可夫模型，因果关系）

李沐老师《动手学深度学习PyTorch版》课程，小破站也有视频51序列模型【动手学深度学习v2】_哔哩哔哩_bilibili主要参考8.1.序列模型—动手学深度学习2.0.0documentation目录

流萤数点·2022-12-13 09:50

学习笔记：动手学深度学习 17 权重衰退

Python3.8.8(default,Apr132021,15:08:03)[MSCv.191664bit(AMD64)]onwin32In[2]:importmatplotlib.pyplotaspltBackendQt5Aggisinteractivebackend.Turninginteractivemodeon.In[3]:importtorch...:fromtorchimportnn

进击的番茄~·2022-12-12 14:55

【动手学深度学习PyTorch版】6 权重衰退

上一篇移步【动手学深度学习PyTorch版】5模型选择+过拟合和欠拟合_水w的博客-CSDN博客目录一、权重衰退1.1权重衰退weightdecay：处理过拟合的最常见方法（L2_penalty）◼权重衰退

水w·2022-12-12 14:22

《动手学深度学习》-学习笔记task5

动手学深度学习-学习笔记task50.学习任务1.卷积神经网络1.1卷积的定义1.2卷积神经网络的基础概念1.2.1二维互相关运算1.2.2二维卷积层1.2.3特征图与感受野1.2.4填充与步幅填充步幅

紫砂痕·2022-12-11 19:26

【动手学深度学习Pycharm实现1】线性回归的从0开始实现

备注：李沐大神源代码是用Jupyter写的，笔者想用Pycharm实现并仅作为学习笔记，如有侵权，请联系笔者删除。前言最近在学习李沐大神的深度学习课程，不得不说，李沐大神教的真好，下面的代码也是跟着他的视频一步一步敲出来的，也添加了自己的一些理解。因为我习惯用Pycharm，所以用Pycharm实现的，也给其他想用Pycharm实现沐神代码的小伙伴一点点小帮助，随着后面的学习，我也会陆续更新的。p

Stick_2·2022-12-11 16:34

李宏毅seq2seq(RNN LSTM GRU seq2seq)

隐藏层的激活函数选用tanh函数(李沫大神的《动手学深度学习》是使用这个激活函数)，对于分类问题输出层选用softmax为激活函数。笔者还看过另一种说法，是直接将隐藏状态连结，计算最终输出。

qq_43501578·2022-12-11 11:40

动手学深度学习 | 从上手到多类分类

1.使用NDArray来处理数据frommxnetimportndarrayasndnd.zeros((3,4))x=nd.ones((3,4))nd.array([[1,2],[2,3]])y=nd.random_normal(0,1,shape=(3,4))y.shapey.size#操作符x+yx*ynd.exp(y)nd.dot(x,y.T)#广播a=nd.arange(3).reshap

奔跑的蜗牛君666·2022-12-10 16:51

深度学习Review【四】编解码

课程地址动手学深度学习笔记【三】一、编码-解码二、Seq2seqtorch一、编码-解码编码（训练）：处理输出，把输入编程成中甲你表达形式（特征）解码（预测）：生成输出，把特征解码成输出fromtorchimportnnclassEncoder

舒克儿不开飞机·2022-12-10 08:55

动手学深度学习——预备知识

一、机器学习组件：1、我们可以学习的数据（data）。样本-特征-标签图像的特征由像素值表示，每个空间位置的红、绿、蓝通道的强度。固定长度的特征向量容易大量训练，所以需要裁剪成标准尺寸，要防止丢失信息。数据要海量+正确，也不要不均衡。2、如何转换数据的模型（model）。3、一个目标函数（objectivefunction），用来量化模型的有效性。定义模型的好坏，并希望优化到最低点，学习模型参数的

唔西迪西爱学习·2022-12-10 00:52

李沐动手学深度学习-04数据操作+数据预处理

李沐动手学深度学习-CH04数据操作的实现这边的内容感觉不太需要记录，所以就没有写了，忘记了就查找一下嘛。

Allure丶憨憨·2022-12-09 22:51

李沐动手学深度学习V2-GoogLeNet模型和代码实现

1.GoogLeNet在2014年的ImageNet图像识别挑战赛中，一个名叫GoogLeNet的网络架构大放异彩。GoogLeNet吸收了NiN中串联网络的思想，并在此基础上做了改进。这篇论文的一个重点是解决了什么样大小的卷积核最合适的问题。毕竟，以前流行的网络使用小到1×1，大到11×11的卷积核。本文的一个观点是，有时使用不同大小的卷积核组合是有利的。1.1Inception块在GoogLe

cv_lhp·2022-12-09 22:20

36李沐动手学深度学习v2/图像增广

%matplotlibinlineimporttorchimporttorchvisionfromtorchimportnnfromd2limporttorchasd2ld2l.set_figsize()img=d2l.Image.open('./img/cat1.jpg')d2l.plt.imshow(img)defapply(img,aug,num_rows=2,num_cols=4,scal

xcrj·2022-12-09 22:50

动手学深度学习PyTorch版——Task02学习笔记

文本预处理文本是一类序列数据，一篇文章可以看作是字符或单词的序列预处理通常包括四个步骤：读入文本英文小说：以英文小说为例展示文本预处理步骤importcollectionsimportredefread_time_machine():withopen('/home/kesci/input/timemachine7163/timemachine.txt','r')asf:lines=[re.sub(

土豆土豆昕昕·2022-12-09 19:51

知识点22

常用图像处理与数据增强方法合集（torchvision.transforms）Pytorch预训练模型以及修改【深度学习】踩坑日记：模型训练速度过慢，GPU利用率低Pytorch中多GPU训练指北课程类动手学深度学习在线课程

I"ll carry you·2022-12-09 14:04

动手学深度学习--多层感知机篇（MLP）

多层感知机前言：本章分为8小章1.多层感知机线性模型的缺陷：具有单调性：即W增大output增大，W减小output减小，而现实中存在许多违反单调性的例子：①体温预测死亡率②收入变化与还款可能性隐藏层与多层感知机（multilayerperceptronMLP）将前L-1层看作表示，把最后一层看作线性预测器，这种架构常称为多层感知机（此处线性存疑）缺点：具有全连接层的多层感知机的参数开销过大激活函

yijie_01·2022-12-09 09:19

【动手学深度学习】10.多层感知机（MLP）

一、感知机1、感知机概念给定输入x，权重w，和偏移b,感知机输出：o=σ(⟨w,x⟩+b)σ(x)={1ifx>00otherwiseo=\sigma(\langle\mathbf{w},\mathbf{x}\rangle+b)\quad\sigma(x)=\left\{\begin{array}{ll}1&\text{if}x>0\\0&\text{otherwise}\end{array}\r

ShadoooWM·2022-12-09 09:38

推荐频道

《动手学深度学习