《动手学深度学习》第8页

九动手学深度学习v2 ——卷积神经网络之AlexNet

文章目录AlexNetVGGAlexNetAlexNet新引入dropout、ReLU、maxpooling和数据增强。VGGVGG神经网络连接图7.2.1的几个VGG块（在vgg_block函数中定义）。其中有超参数变量conv_arch。该变量指定了每个VGG块里卷积层个数和输出通道数。全连接模块则与AlexNet中的相同。原始VGG网络有5个卷积块，其中前两个块各有一个卷积层，后三个块各包含

王二小、·2023-09-11 09:40

【动手学深度学习】Task07

目标检测基础锚框目标检测算法通常会在输入图像中采样大量的区域，然后判断这些区域中是否包含我们感兴趣的目标，并调整区域边缘从而更准确地预测目标的真实边界框（ground-truthboundingbox）。不同的模型使用的区域采样方法可能不同。这里我们介绍其中的一种方法：它以每个像素为中心生成多个大小和宽高比（aspectratio）不同的边界框。这些边界框被称为锚框（anchorbox）。生成多个

逍遥客小老虎·2023-09-10 13:05

【动手学深度学习笔记】--门控循环单元GRU

门控隐状态1.1重置门和更新门1.2候选隐状态1.3隐状态2.从零开始实现2.1读取数据2.2初始化模型参数2.3定义模型2.4训练与预测3.简洁实现门控循环单元GRU学习视频：门控循环单元（GRU）【动手学深度学习

小d<>·2023-09-10 06:07

【动手学深度学习】--循环神经网络

读取数据集2.2独热编码2.3初始化模型参数2.4循环神经网络模型2.5预测2.6梯度裁剪2.7训练3.RNN简洁实现3.1读取数据集3.2定义模型3.3训练与预测循环神经网络学习视频：循环神经网络RNN【动手学深度学习

小d<>·2023-09-10 06:04

【动手学深度学习】--长短期记忆网络LSTM

忘记门、输出门1.2候选记忆元1.3记忆元1.4隐状态2.从零实现2.1加载数据集2.2初始化模型参数2.3定义模型2.4训练与预测3.简洁实现长短期记忆网络LSTM学习视频：长短期记忆网络（LSTM）【动手学深度学习

小d<>·2023-09-10 06:31

《动手学深度学习》-57长短期记忆网络LSTM

沐神版《动手学深度学习》学习笔记，记录学习过程，详细的内容请大家购买书籍查阅。b站视频链接开源教程链接长短期记忆网络（LSTM）长期以来，隐变量模型存在长期信息保存和短期输入缺失的问题。

Jiawen9·2023-09-10 04:50

八动手学深度学习v2 ——卷积神经网络之卷积+填充步幅+池化

图像卷积总结二维卷积层的核心计算是二维互相关运算。最简单的形式是，对二维输入数据和卷积核执行互相关操作，然后添加一个偏置。核矩阵和偏移是可学习的参数核矩阵大小是超参数填充和步幅padding和stride填充：在应用多层卷积时，我们常常丢失边缘像素。由于我们通常使用小卷积核，因此对于任何单个卷积，我们可能只会丢失几个像素。但随着我们应用许多连续卷积层，累积丢失的像素数就多了。解决这个问题的简单方法

王二小、·2023-09-09 13:57

【动手学深度学习】--语言模型

文章目录语言模型1.学习语言模型2.马尔可夫模型与N元语法3.自然语言统计4.读取长序列数据4.1随机采样4.2顺序分区语言模型学习视频：语言模型【动手学深度学习v2】官方笔记：语言模型和数据集在【文本预处理

小d<>·2023-09-09 02:34

【动手学深度学习】--序列模型

文章目录序列模型1.序列数据2.统计工具3.自回归模型3.1马尔科夫假设3.2潜变量模型4.训练5.预测序列模型学习视频：序列模型【动手学深度学习v2】官方笔记：序列模型1.序列数据想象一下有人正在看网飞

小d<>·2023-09-09 02:04

【动手学深度学习】--文本预处理

文章目录文本预处理1.读取数据集2.词元化3.词表4.整合所有功能文本预处理学习视频：文本预处理【动手学深度学习v2】官方笔记：文本预处理对于序列数据处理问题，在【序列模型】中评估了所需的统计工具和预测时面临的挑战

小d<>·2023-09-09 02:32

multibox_prior函数锚框生成部分个人理解

在最近自学李沐沐神的《动手学深度学习》中，一直在研究这个方法里的代码，属实是差点把我整崩溃了，在网上找了许多参考还是看的很崩溃，在近一周的折磨中找到了一个理解的方法，那就是设置自定义初始值去逐句分析，怕自己忘记

阿十六·2023-09-08 11:12

box_iou交并比及assign_anchor_to_bbox个人理解

接上篇文章，李沐沐神的《动手学深度学习》中的show_bboxes还是比较好理解的，于是来看这两个方法以下内容建议对照源代码理解defbox_iou首先我们来设置boxes1和boxes2的初始值boxes1

阿十六·2023-09-08 11:08

pytorch学习——循环神经网络RNN讲解及其实现

参考书籍：8.6.循环神经网络的简洁实现—动手学深度学习2.0.0documentation参考视频：54循环神经网络RNN【动手学深度学习v2】_哔哩哔哩_bilibili一.介绍循环神经网络RNN（

一只小百里·2023-09-08 00:56

动手学深度学习（2）-3.5 图像分类数据集

文章目录引言正文图像分类数据集主要包介绍主要流程具体代码练习总结引言这里主要是看一下如何加载数据集，并且生成批次训练的数据。最大的收获是，知道了如何在训练阶段提高模型训练的性能增加batch_size增加num_worker数据预加载正文图像分类数据集主要包介绍这个模块主要是将如何加载数据集，并且生成一个迭代器，每一次访问都会俺批次生成数据。具体应用到以下几个功能：torchvision.data

客院载论·2023-09-07 20:21

动手学深度学习d2l.Animator无法在PyCharm中显示动态图片的解决方案

fromd2limporttorchasd2l一、问题描述运行d2l的训练函数，仅在控制台输出以下内容，无法显示动态图片（训练监控）二、解决方案修改d2l.Animator的add函数，以下分别是修改前的代码及修改后的代码：defadd(self,x,y):#Addmultipledatapointsintothefigureifnothasattr(y,"__len__"):y=[y]n=len

枯木何日可逢春·2023-09-07 07:50

loss.sum.backward()为什么要sum()?

在动手学深度学习中，这样解释的：当y不是标量时，向量y关于向量x的导数的最自然解释是一个矩阵。对于高阶和高维的y和x，求导的结果可以是一个高阶张量。

闪闪发亮的小星星·2023-09-06 10:16

动手学深度学习（四）多层感知机

目录一、多层感知机的从零开始实现1.1初始化模型参数1.2实现Relu函数1.3实现模型1.4训练二、多层感知机的简洁实现2.1实现模型2.2训练三、模型选择3.1训练误差和泛化误差3.2验证数据集和测试数据集3.3过拟合和欠拟合3.4代码实现3.4.1生成训练和测试数据的标签3.4.2评估损失3.4.3训练函数3.4.4正常拟合（使用三阶多项式函数的数据特征）3.4.5欠拟合（使用线性函数的数据

向岸看·2023-09-05 16:07

FCN在VOC数据集的实践

本次参考《动手学深度学习》（此书用的是MXNet，本次实践使用的是pytorch框架）进行FCN在VOC2012数据集上的实践。

坐下等雨·2023-09-05 03:20

李沐-动手学深度学习（4）数值稳定性、模型初始化、激活函数

【总结】当数值过大或者过小时会导致数值问题；常发生在深度模型中，因为其会对n个数累乘。合理的权重初始值和激活函数的选取可以提升数值稳定性。（使每一层的输出和每一层的梯度都是一个均值为0，方差为一个固定数的随机变量）（权重初始用Xavier，激活函数用tanh、relu或变化的sigmoid）一、数值稳定性t在这里表示层。向量关于向量的导数是一个矩阵，所以这里要做太多的矩阵乘法，会带了两个问题。（假

minlover·2023-09-04 13:48

[动手学深度学习-PyTorch版]-3.深度学习基础

3.1线性回归线性回归输出是一个连续值，因此适用于回归问题。回归问题在实际中很常见，如预测房屋价格、气温、销售额等连续值的问题。与回归问题不同，分类问题中模型的最终输出是一个离散值。我们所说的图像分类、垃圾邮件识别、疾病检测等输出为离散值的问题都属于分类问题的范畴。softmax回归则适用于分类问题。由于线性回归和softmax回归都是单层神经网络，它们涉及的概念和技术同样适用于大多数的深度学习模

蒸饺与白茶·2023-09-03 05:02

【动手学深度学习Pycharm实现7】Dropout丢弃法及其不同丢失概率的结果对比

前言李沐大神源代码是用Jupyter写的，笔者想用Pycharm实现并仅作为学习笔记，如有侵权，请联系笔者删除。一、Dropout丢弃法Dropout，通过在层之间加入噪音，达到正则化的目的，一般作用在隐藏全连接层的输出上，通过将输出项随机置0来控制模型复杂度，如下图。需要注意的是，并不是把节点删掉，因为下一次迭代很有可能置0的项又会被重启。如何实现Dropout如下，下面的x为一层到下一层之间的

Stick_2·2023-09-03 01:07

【笔记】动手学深度学习- dropout 丢弃法

介绍在这里丢弃法特指倒置丢弃法（inverteddropout）。原理：不是在输入的时候加入噪音，而是在层与层之间加入噪音，类似于正则。图中x为上一层的输出，x'为加入了噪音的x，要求加入噪音后期望值不变。所以我们使用这个：。可以发现加入噪音后期望值为Xi，没变。使用丢弃法通常丢弃法使用在全连接层上。两个图的左侧是没有使用丢弃法，右侧使用了丢弃法。可以发现丢弃法按照一定的概率随机丢弃了隐藏层中的一

echo_gou·2023-09-03 01:05

Windows下安装PaddlePaddle

PaddlePaddle记录背景下载、安装PaddlePaddle验证是否安装成功异常处理报错：DeprecationWarning:pkg_resourcesisdeprecatedasanAPI记录背景为了验证《动手学深度学习

weixin_38280557·2023-08-31 15:31

1 软件安装及环境配置——《动手学深度学习（Pytorch版）》

最近在学习李沐老师的《动手学深度学习（Pytorch版）》，试着整理下所学笔记。

柒七日·2023-08-31 05:24

跟着李沐学AI（动手学深度学习 PyTorch版）学习笔记——02深度学习介绍

1.课程安排大概共34天的课-（计划7月底看完，争取做到最少两天一更）2.动手学深度学习课本教材3.课程谈论坛4.pytorch论坛一、目标二、内容三、学习目标：四、简单了解深度学习深度学习：图片分类物体的检测和分割

依洛(^_^)简·2023-08-31 05:53

自然语言处理(六)：词的相似性和类比任务

文章内容来自李沐大神的《动手学深度学习》并加以我的理解，感兴趣可以去https://zh-v2.d2l.

青云遮夜雨·2023-08-31 03:19

【深度学习】PyTorch基础入门（爆肝2万字）

【深度学习】PyTorch基础入门预备：本文章内容使用李沐老师著作的《动手学深度学习PyTorch版》作为教材。

柒筱暮·2023-08-30 18:16

一. 线性回归，softmax分类，多层感知机

疫情期间，借助《动手学深度学习》，学习pytorch的代码，顺便记录一些基础知识1.线性回归--基本要素1.1模型为了简单起见，这里我们假设价格只取决于房屋状况的两个因素，即面积（平方米）和房龄（年

copain_sir·2023-08-30 04:44

出现raise NotImplementedError报错

在学习《动手学深度学习》时，实现下面代码时，报出raiseNotImplementedError错误。

抓个马尾女孩·2023-08-29 14:19

单发多框检测（SSD）【动手学深度学习】

单发多框检测模型主要由一个基础网络块和若干多尺度特征块串联而成。基本网络用于从输入图像中提取特征，可以使用深度卷积神经网络，原论文中选用了在分类层之前阶段的VGG，现在也常用ResNet替代。我们可以设计基础网络，使它输出的高和宽较大，这样基于该特征图生成的锚框数量较多，可以用于检测尺寸较小的目标。接下来每个多尺度特征块将上一层特征图的高和宽缩小（如减半），并使特征图中每个单元在输入图像上的感受野

东城青年·2023-08-29 13:25

自然语言处理(三)：基于跳元模型的word2vec实现

这节我们以跳元模型为例，讲解word2vec的实现文章内容来自李沐大神的《动手学深度学习》并加以我的理解，感兴趣可以去https://zh-v2.d2l.ai/查看完整书籍文章目录跳元模型数据集数据集的获取

青云遮夜雨·2023-08-29 10:10

pycharm笔记-动手学深度学习（李沐）数据预处理课后习题

1.删除缺失值最多#创建数据集importosos.makedirs(os.path.join('.','Data'),exist_ok=True)data_file=os.path.join('.','Data','house.csv')#写入数据withopen(data_file,'w')asf：f.write('NumRooms,Alley,Price\n')#列名f.write('NA

幸运的的飞起·2023-08-29 00:06

李沐-动手学习深度学习（预备知识）

预备知识2.1.数据操作—动手学深度学习2.0.0documentation(d2l.ai)首先介绍n维数组，也就是张量（tensor），所有的深度学习框架，它的张量类（比如TensorFlow中的Tensor

麻辣香郭诶·2023-08-29 00:05

李沐《动手学深度学习》课程笔记：05 线性代数

目录05线性代数1.线性代数2.线性代数实现3.按特定轴求和05线性代数1.线性代数2.线性代数实现importtorch#标量由只有一个元素的张量表示x=torch.tensor(3.0)y=torch.tensor(2.0)print(x+y)print(x*y)print(x/y)print(x**y)#可以将向量视为标量组成的列表x=torch.arange(4)print(x)#通过张量

非文的NLP修炼笔记·2023-08-29 00:05

Tensor-动手学深度学习-李沐_笔记

介绍Tensor，又称"张量"，其实就是n维度数组。不同维度的Tensor示意图如下：关于Tensor.reshapereshape函数可以处理总元素个数相同的任何新形状，【3，2，5】->【3，10】->【5，6】这个流程如下图所示：关于Tensor.sum(0,keepdim=True)有时需要对Tensor按照某一维度进行求和，那么实际上就是将所求和的维度从向量降维成标量举个栗子import

起名好难（# #）·2023-08-29 00:03

[动手学深度学习-PyTorch版]-5.6卷积神经网络-深度卷积神经网络（AlexNet）

5.6深度卷积神经网络（AlexNet）在LeNet提出后的将近20年里，神经网络一度被其他机器学习方法超越，如支持向量机。虽然LeNet可以在早期的小数据集上取得好的成绩，但是在更大的真实数据集上的表现并不尽如人意。一方面，神经网络计算复杂。虽然20世纪90年代也有过一些针对神经网络的加速硬件，但并没有像之后GPU那样大量普及。因此，训练一个多通道、多层和有大量参数的卷积神经网络在当年很难完成。

蒸饺与白茶·2023-08-27 07:23

《Dive into Deep Learning》

anddiscussionsImplementedwithPyTorch,NumPy/MXNet,JAX,andTensorFlowAdoptedat500universitiesfrom70countries《动手学深度学习

猛码Memmat·2023-08-26 09:20

【动手学深度学习】文本预处理

文本预处理读取数据集将文本作为字符串加载到内存中。将字符串拆分为词元（如单词和字符）。建立一个词表，将拆分的词元映射到数字索引。将文本转换为数字索引序列，方便模型操作。文本下载连接：https://www.gutenberg.org/ebooks/35我们将每一行都读取到列表中importcollectionsimportrefromd2limporttorchasd2l#@saved2l.DAT

MoonpieXia·2023-08-25 12:04

【动手学深度学习】--21.锚框

锚框学习视频：锚框【动手学深度学习v2】官方笔记：锚框1.锚框目标检测算法通常会在输入图像中采样大量的区域，然后判断这些区域中是否包含我们感兴趣的目标，并调整区域边界从而更准确地预测目标的真实边界框（ground-truthboundingbox

小d<>·2023-08-25 11:56

【动手学深度学习】--20.目标检测和边界框

文章目录目标检测和边界框1.目标检测2.边界框目标检测和边界框学习视频：物体检测和数据集【动手学深度学习v2】官方笔记：目标检测和边界框在图像分类任务中，我们假设图像中只有一个主要物体对象，我们只关注如何识别其类别

小d<>·2023-08-25 07:47

动手学深度学习—深度卷积神经网络AlexNet（代码详解）

AlexNet1.学习表征1.1缺少的成分：数据1.2缺少的成分：硬件2.AlexNet2.1模型设计2.2激活函数2.3容量控制和预处理3.读取数据集4.训练AlexNetImageNetclassificationwithdeepconvolutionalneuralnetworks原文链接：https://dl.acm.org/doi/abs/10.1145/3065386中文翻译：http

緈福的街口·2023-08-25 02:39

《动手学深度学习》-28批量归一化

沐神版《动手学深度学习》学习笔记，记录学习过程，详细的内容请大家购买书籍查阅。

Jiawen9·2023-08-24 17:48

《动手学深度学习》-21卷积层里的多输入多输出通道

沐神版《动手学深度学习》学习笔记，记录学习过程，详细的内容请大家购买书籍查阅。

Jiawen9·2023-08-24 17:47

《动手学深度学习》-20卷积层里的填充和步幅

沐神版《动手学深度学习》学习笔记，记录学习过程，详细的内容请大家购买书籍查阅。b站视频链接开源教程链接卷积层里的填充和步幅应用5x5大小的卷积核，输入32x32，输出会变为28x28。

Jiawen9·2023-08-24 17:47

【动手学深度学习】--19.微调

文章目录微调1.步骤2.热狗识别2.1获取数据集2.2定义和初始化模型2.3微调模型微调学习视频：微调【动手学深度学习v2】官方笔记：微调假如我们想识别图片中不同类型的椅子，然后向用户推荐购买链接。

小d<>·2023-08-23 12:40

【动手学深度学习】--18.图像增广

文章目录图像增广1.常用的图像增广方法1.1翻转和裁剪1.2改变颜色1.3结合多种图像增广方法2.使用图像增广进行训练3.训练图像增广官方笔记：图像增广学习视频：数据增广【动手学深度学习v2】图像增广在对训练图像进行一系列的随机变化之后

小d<>·2023-08-23 12:08

和李沐大神一起动手学深度学习笔记2——Softmax 回归

Softmax回归Softmax回归是一个多类分类模型，使用Softmax操作子可以得到每个类的预测置信度(概率)，使用交叉熵来衡量预测和标号的区别。分类vs回归image.png从回归到多类分类---均方损失,如下所示。image-20210827093003754.png 举例说明一位有效编码，大意为只有其中一个位的值为1，比如我有猫、狗和猪三类，标号则是长度为3的向量，那么可以分别表示为0

a_Janm·2023-08-22 02:27

动手学深度学习-pytorch版本（一）：引言 & 预备知识

参考引用动手学深度学习利用Anaconda安装pytorch和paddle深度学习环境+pycharm安装0.环境安装利用Anaconda安装pytorch和paddle深度学习环境+pycharm安装

Robot_Yue·2023-08-18 12:04

动手学深度学习-pytorch版本（二）：线性神经网络

参考引用动手学深度学习1.线性神经网络神经网络的整个训练过程，包括:定义简单的神经网络架构、数据处理、指定损失函数和如何训练模型。

Robot_Yue·2023-08-18 12:30

深度学习从入门到实际项目资料汇总

图片来源于AiLake，如若侵权，请联系博主删除文章目录1.介绍2.深度学习相关学习资料2.1[《动手学深度学习》](http://zh.d2l.ai/index.html)2.2[导航文库](https

智驾·2023-08-17 02:57

推荐频道

《动手学深度学习》

九 动手学深度学习v2 ——卷积神经网络之AlexNet