动手学深度学习学习整理第41页

《动手学深度学习》(五) -- 多GPU训练

1自动并行深度学习框架（例如，MxNet和PyTorch）会在后端自动构建计算图。利用计算图，系统可以了解所有依赖关系，并且可以选择性地并行执行多个不相互依赖的任务以提高速度。通常情况下单个操作符将使用所有CPU或单个GPU上的所有计算资源。例如，即使在一台机器上有多个CPU处理器，dot操作符也将使用所有CPU上的所有核心（和线程）。这样的行为同样适用于单个GPU。因此，并行化对于单设备计算机来

长路漫漫2021·2022-08-13 07:10

canvas基础1 - 画直线（通俗易懂）

系列文章目录本文开始是canvas，通俗易懂，小白也没烦恼，根据慕课网liuyubobobo老师的视频课学习整理视频课指路：慕课网liuyubobobo老师炫丽的倒计时效果Canvas绘图与动画基础1、

·2022-08-11 19:20

canvas基础2 - arc - 画弧线

系列文章目录本文是canvas基础2-arc-画弧线，通俗易懂，小白也没烦恼，根据慕课网liuyubobobo老师的视频课学习整理视频课指路：慕课网liuyubobobo老师炫丽的倒计时效果Canvas

·2022-08-11 19:20

《动手学深度学习》PyTorch版本

Dive-Into-Deep-Learning-PyTorch-PDF简介本项目对中文版《动手学深度学习》中的代码进行整理，并参考一些优秀的GitHub项目给出基于PyTorch的实现方法。

zhenyu wu·2022-08-10 17:21

存放《动手学深度学习》PyTorch版

原书作者：阿斯顿·张、李沐、扎卡里C.立顿、亚历山大J.斯莫拉以及其他社区贡献者。目录预备知识1.1数据操作1.2自动求梯度1.3查阅文档1.4本章附录深度学习基础2.1线性回归2.2线性回归的从零开始实现2.3线性回归的简洁实现2.4softmax回归2.5图像分类数据集（Fashion-MNIST）2.6softmax回归的从零开始实现2.7softmax回归的简洁实现2.8多层感知机2.9多

神游py·2022-08-10 17:50

动手学深度学习之物体检测算法R-CNN，SSD，YOLO

区域卷积神经网络R-CNNR-CNN首先是使用启发式搜索算法来选择锚框，选出很多锚框之后，对于每一个锚框当作一张图片，使用一个预训练好的模型来对他进行特征抽取，然后训练一个SVM来对类别进行分类。使用一个线性回归模型来预测边缘框的偏移。兴趣区域(Rol)池化层上面我们得到不同的锚框，我们怎么将其变为一个batch？使用RoIPooling：给定一个锚框，我们将它均匀的切成n×mn\timesmn×

哈哈哈捧场王·2022-08-10 17:49

44 物体检测算法：R-CNN，SSD，YOLO [动手学深度学习v2]

R-CNN图1.R-CNN模型使用启发式搜索算法来选择锚框；使用预训练模型来对每个锚框抽取特征；训练一个SVM来对类别分类；训练一个线性回归模型来预测边缘框偏移。兴趣区域（RoI）池化层给定一个锚框，均匀分割成n×mn\timesmn×m块，输出每块里的最大值；不管锚框多大，总是输出nmnmnm个值。图2.一个2x2的兴趣区域汇聚层FastR-CNN图3.FastR-CNN模型使用CNN对图片抽取

Grin*·2022-08-10 17:48

李沐动手学深度学习V2-目标检测SSD

一.目标检测SSD(单发多框检测)1.介绍SSD模型主要由基础网络组成，其后是几个多尺度特征块。基本网络用于从输入图像中提取特征，因此它可以使用深度卷积神经网络。单发多框检测论文中选用了在分类层之前截断的VGG，现在也常用ResNet替代。我们可以设计基础网络，使它输出的高和宽较大，从而基于该特征图生成的锚框数量较多，可以用来检测尺寸较小的目标，接下来的每个多尺度特征块将上一层提供的特征图的高和宽

cv_lhp·2022-08-10 17:48

【动手学深度学习】week 10 | R-CNN，SSD，YOLO

R-CNN使用启发式搜索算法来选择锚框使用预训练模型来对每个锚框抽取特征训练一个SVM来对类别分类训练一个线性回归模型来预测边缘框偏移兴趣区域（RoI）池化层把一个锚框分割为n×m块，输出每块里面的最大值，这样无论锚框多大，总是输出nm个值。RoI主要是为了解决锚框大小不同的问题，使得锚框可以被pooling成固定大小的，可以做一个batch的处理。FasterRCNN将图片变成一个特征图，再变成

大胃羊·2022-08-10 17:18

《动手学深度学习》(八) -- 多尺度标检测和单发多框检测

1多尺度目标检测在前面的章节中，我们以输入图像的每个像素为中心，生成了多个锚框。基本而言，这些锚框代表了图像不同区域的样本。然而，如果为每个像素都生成的锚框，我们最终可能会得到太多需要计算的锚框。1.1多尺度锚框减少图像上的锚框数量并不困难。比如，我们可以在输入图像中均匀采样一小部分像素，并以它们为中心生成锚框。此外，在不同尺度下，我们可以生成不同数量和不同大小的锚框。直观地说，比起较大的目标，较

长路漫漫2021·2022-08-10 17:47

动手学深度学习_目标检测算法 R-CNN 系列

简单整理记录一下，有个大概了解。区域卷积神经网络region-basedCNN或regionswithCNNfeatures，R-CNN比较有名的几个网络：R-CNN、FastR-CNN、FasterR-CNN、MaskR-CNNR-CNNR-CNN首先从输入图像中选取若干提议区域（如锚框也是一种选取方法），并标注它们的类别和边界框（如偏移量）。然后，用卷积神经网络对每个提议区域进行前向传播以抽取

CV小Rookie·2022-08-10 07:10

深度学习环境搭建超级详解（Miniconda、pytorch安装）

小白刚开始学习《动手学深度学习》，第一次发文，本文主要是为了记录在环境搭建过程中遇到的问题和疑惑，以及解决方法，同时希望能帮到遇到相同问题的小伙伴。

暗三体·2022-08-08 07:57

《动手学深度学习》(PyTorch版)理解笔记 - 6 【初始化权重】

目录运行环境书中片段理解运行环境使用环境：python3.8平台：Windows10IDE：PyCharm书中片段理解在构建网络是，我们需要进行权重的初始化初始化过程中我们最常见的便是如下代码：defget_net(feature_num):net=nn.Linear(feature_num,1)forparaminnet.parameters():#print(param)nn.init.nor

Hurri_cane·2022-08-07 07:09

李沐动手学深度学习V2-BERT微调和代码实现

2.加载预训练的BERT在前面博客BERT预训练第二篇：李沐动手学深度学习V2-bert预训练数据集和代码实现和BERT预训练第三篇

cv_lhp·2022-08-05 14:00

SpringCloud Alibaba Nacos注册中心官方文档——快速开始

一、前言本篇笔记是我根据SpringCloudAlibabaNacos官方文档学习整理而来，主要是对Nacos注册中心的部署、NacosServer的动态配置及NacosServer的服务注册与发现的一个官方

m0_67392409·2022-08-04 07:52

【深度学习】今日bug：TypeError: ‘method‘ object is not iterable

前言博主主页：阿阿阿阿锋的主页_CSDN代码来源：《动手学深度学习》今天遇到了一个报错提示：TypeError:'method'objectisnotiterable。

阿阿阿阿锋·2022-08-03 07:39

坚持学习100天：C++标准库（C++语言本身IIC++标准库）

在这里记录一些学习的东西和学习的心情,内容主要是一些自己学习整理的小笔记。

smile- sunshine·2022-07-24 12:57

学习笔记——动手学深度学习（RNN，GRU，LSTM）

文章标题摘要1.RNN循环神经网络1.1无隐藏状态的神经网络1.2有隐藏状态的循环神经网络1.3以文本数据集为例实现RNN预测模型1.3.1读取数据1.3.2独热编码（词）1.3.3初始化RNN的模型参数1.3.4定义RNN模型1.3.5创建一个类来包装这些函数1.3.6梯度裁剪1.3.7预测（未训练先预测）1.3.8开始训练1.4简洁实现RNN文本预测模型2.门控循环单元（GRU）2.1重置门和

HSR CatcousCherishes·2022-07-23 08:31

Pytorch实现文本情感分析

文本情感分析在本文中介绍如何使用神经网络实现情感分析任务，主要内容为：加载预训练的词向量介绍如何处理情感分析数据集使用循环神经网络模型训练使用一维卷积神经网络模型训练参考：动手学深度学习1、加载Glove

CityD·2022-07-21 13:34

动手学深度学习PyTorch（六）：卷积神经网络

1.二维卷积层卷积神经网络（convolutionalneuralnetwork）是含有卷积层（convolutionallayer）的神经网络。本章中介绍的卷积神经网络均使用最常见的二维卷积层。它有高和宽两个空间维度，常用来处理图像数据。本节中，我们将介绍简单形式的二维卷积层的工作原理。1.1二维互相关运算虽然卷积层得名于卷积（convolution）运算，但我们通常在卷积层中使用更加直观的互相

J_Xiong0117·2022-07-21 07:02

【Kaggle项目实战记录】一个图片分类项目的步骤和思路分享——以树叶分类为例（用Pytorch）

2数据预处理，建立Dataset创建数据集Dataset对象预览训练集和验证集3定义模型、优化器4设置训练集和测试集5训练设定数据增广方法训练6保存模型7验证数据，上传预测上传简单的技术点总结这是一个动手学深度学习中的一个练习项目

takedachia·2022-07-21 07:01

第三周作业:卷积神经网络(Part1)

Part1《动手学深度学习》之卷积神经网络Part2注：本次使用的数据集并非是AI研习社下载的数据集，因为其数据集太大了，在自己电脑上用cpu跑一次就得两三个小时，所以最后采用的是少量的数据集，也就是pytorch

Qxw1012·2022-07-21 07:30

【ROS】中级操作学习整理-TF坐标变换

系列文章目录·【ROS】中级操作学习整理-gazebo机器人仿真·【ROS】中级操作学习整理-TF坐标变换·【ROS】中级操作学习整理-传感器建模·【ROS】中级操作学习整理-激光SLAM文章目录目录目录系列文章目录文章目录前言一

K.Fire浑身是肝·2022-07-21 07:26

第三周作业：卷积神经网络（Part1）

跟李沐学AI-动手学深度学习-深度学习计算在一开始学习高级编程语言的时候，我们就听说过一个词“模块化”。

洋-葱·2022-07-21 07:23

动手学深度学习之卷积神经网络之池化层

池化层卷积层对位置太敏感了，可能一点点变化就会导致输出的变化，这时候就需要池化层了，池化层的主要作用就是缓解卷积层对位置的敏感性二维最大池化这里有一个窗口，来滑动，每次我们将窗口中最大的值给拿出来还是上面的例子，这里的最大池化窗口为2*2填充、步幅和多个通道这里基本与卷积层类似，与卷积层不同的是，池化层不需要学习任何的参数平均池化层与最大池化层不同的地方在于将最大操作子变为平均，最大池化层是将每个

哈哈哈捧场王·2022-07-19 07:07

Pytorch Softmax 多分类

Softmax0.环境介绍环境使用Kaggle里免费建立的Notebook教程使用李沐老师的动手学深度学习网站和视频讲解小技巧：当遇到函数看不懂的时候可以按Shift+Tab查看函数详解。

哇咔咔负负得正·2022-07-17 16:32

Torch_2_SoftMax多分类问题

动手学深度学习（zh-v2.d2l.ai）SoftMax也是单层的网络，其思路是将多类的输出转为概率表示，每类的输出在0−10-10−1之间，且和为1.数学表达为y^=softmax(o)其中y^j=exp⁡

aaaaaaze·2022-07-17 16:00

强化学习算法 DDPG 解决 CartPole 问题，代码逐条详解

本文内容源自百度强化学习7日入门课程学习整理感谢百度PARL团队李科浇老师的课程讲解使用DDPG解决连续控制版本的CartPole问题，给小车一个力（连续量）使得车上的摆杆倒立起来。

AItrust·2022-07-17 07:21

李沐动手学深度学习V2-多头注意力机制和代码实现

一.多头自注意力1.介绍在实践中，当给定相同的查询、键和值的集合时，希望模型可以基于相同的注意力机制学习到不同的行为，然后将不同的行为作为知识组合起来，捕获序列内各种范围的依赖关系（例如短距离依赖和长距离依赖关系）。因此允许注意力机制组合使用查询、键和值的不同子空间表示（representationsubspaces）可能是有益的。为此与其只使用单独一个注意力汇聚，我们可以用独立学习得到的ℎ组不同

cv_lhp·2022-07-17 07:40

李沐动手学深度学习V2-注意力评分函数

一.注意力评分函数1.注意力评分权重在上篇博客李沐动手学深度学习V2-注意力机制中，使用高斯核来对查询和键之间的关系建模。

cv_lhp·2022-07-17 07:09

动手学深度学习：softmax完整代码（pytorch + windows+ pycharm）

删去多余的演示部分，解决了图像无法显示的问题文章目录softmax从零开始实现softmax简洁实现遇到的问题pycharm无法多进程读取数据导致的报错pycharm绘图不显示/卡顿无法动态绘制图像PermissionError:[WinError5]拒绝访问。:'../data'图片自动关闭softmax从零开始实现importtorchfromd2limporttorchasd2limport

看星星的花栗鼠·2022-07-15 07:40

动手学深度学习-线性回归的简单实现

动手学深度学习-线性回归的简单实现一、生成数据集二、读取数据集三、定义模型四、初始化模型参数五、定义损失函数六、定义优化算法七、训练本节介绍如何使用深度学习框架实现线性回归模型。

LuZhouShiLi·2022-07-15 07:01

【PyTorch】动手学深度学习-梳理与笔记小结|深度学习计算

动手学深度学习-梳理与笔记小结Refs：参考书籍-动手学深度学习课程主页与资源汇总层和块【小结】一个块可以由许多块组成，也可以由许多层组成；块中可以包含自定义的代码；块负责大量的内部处理，包括参数初始化和梯度反向传播

kodoshinichi·2022-07-15 07:52

《动手学深度学习Pytorch版》之Pytorch常用操作

未完待续。。。。。GPU操作二、模型保存读取操作1、访问模块模型参数model.parameters()一个从参数名称隐射到参数Tesnor的字典对象state_dict举例1importtorchfromtorchimportnnnet=MLP()#这里我省略了MLP()的定义，详见《动手学习深度学习Pytorch》对应章节net.state_dict()输出1classMLP(nn.Modul

irober·2022-07-15 07:50

【笔记】动手学深度学习 - pytorch神经网络基础

介绍为了实现复杂的网络，我们引入了神经网络块的概念。块可以描述单个层、由多个层组成的组件或整个模型本身。从编程的角度来看，块由类（class）表示。它的任何子类都必须定义一个将其输入转换为输出的正向传播函数（forward），并且必须存储任何必需的参数。注意，有些块不需要任何参数。最后，为了计算梯度，块必须具有反向传播函数。幸运的是，在定义我们自己的块时，由于自动微分（在2.5节中引入）提供了一些

echo_gou·2022-07-15 07:49

《动手学深度学习》(PyTorch版)代码注释 - 16 【Model_construction】

目录说明配置环境此节说明代码说明本博客代码来自开源项目：《动手学深度学习》(PyTorch版)并且在博主学习的理解上对代码进行了大量注释，方便理解各个函数的原理和用途配置环境使用环境：python3.8

Hurri_cane·2022-07-15 07:17

动手学深度学习-2021-11-12

softmax回归的从零开始实现在前面已经引入了Fashion-MNIST数据集，并设置数据迭代器的批量大小为256引入importtorchfromIPythonimportdisplay#IPython是一个python的交互式shell，支持交互式数据可视化fromd2limporttorchasd2lbatch_size=256train_iter,test_iter=d2l.load_d

Anday33·2022-07-15 07:47

《动手学深度学习-pytorch》书中定义函数后加#@save的含义

笔者在学习《动手学深度学习-pytorch》一书的时候，发现很多定义的函数后面都会加#@save符号，如下：defuse_svg_display():#@save"""使⽤svg格式在Jupyter中显

Acrab_Chogori·2022-07-15 07:43

强化学习入门笔记（一）——莫烦Python

《强化学习入门——从原理到实践》-叶强莫烦Python强化学习整理1.Q-Lea

小郁同学·2022-07-10 07:40

李沐-动手学深度学习（1）损失函数和激活函数

一、损失函数损失函数，用来衡量预测值和真实值之间的区别。1、均方损失（L2Loss）横坐标应该是y-y'。蓝色曲线是：真实值y不变时，变化预测值y'的曲线，是一个二次函数。绿色是它的似然函数，是一个高斯分布。橙色线是损失函数的梯度，是个过原点的直线。箭头长度是下降的快不快。图中可以看出L2Loss损失函数的特点，当离极值点较远的时候，其以较大的梯度绝对值下降；当靠近我们的极值点时它的梯度变得很小。

minlover·2022-07-08 22:37

react-router v3学习整理

转载于：https://segmentfault.com/a/1190000012063465#articleHeader5简介ReactRouter是一个基于React之上的强大路由库，它可以让你向应用中快速地添加视图和数据流，同时保持页面与URL间的同步。在没有react-router的时候，我们需要对URL进行监听，当URL的hash部分（指的是#后的部分）变化后，根据hash来渲染不同的组

gaozhigang·2022-07-06 14:56

Pyqt主要组件QFileDialog，QMessageBox，QInputDialog，QPushButton详解，附详细代码（持续更新中.....）

Author：qyan.liDate：2022.4.24Topic：学习整理QTforpython中各组件的基本用法和示例DemoReference：https://blog.51cto.com/quantfabric

隔壁李学长·2022-07-05 09:45

Pytorch基本操作（8）——搭建实战、Sequential、损失函数以及优化器

1前言在学习李沐在B站发布的《动手学深度学习》PyTorch版本教学视频中发现在操作使用PyTorch方面有许多地方看不懂，往往只是“动手”了，没有动脑。

Xujl99·2022-07-05 07:13

数据仓库建设流程及概念

数据仓库建设流程及概念（学习记录）该文章为自己学习整理总结内容有不正之处请谅解文章目录数据仓库建设流程及概念（学习记录）第一章：数据仓库概述1.1数据仓库概念1.2数据仓库核心架构1.2.1框架架构明细第

赵一一3306·2022-07-04 12:57

《动手学深度学习》（二）-- 多层感知机

1多层感知机1.1从零开始实现本节将继续使⽤Fashion-MNIST图像分类数据集，数据导入步骤和上一节一样，本节将不再展示。importtorchfromd2limporttorchasd2limporttorch.nn.functionalasFfromtorch.utils.dataimportDataLoaderfromtorch.utilsimportdatafromtorchvisi

长路漫漫2021·2022-07-03 13:04

《动手学深度学习》（一）-- 线性神经网络

本篇主要学习《动手学深度学习》第三章线性神经网络线性回归的实现。可以结合线性分类器学习笔记和《计算机视觉与深度学习》——线性分类器一起学习。

长路漫漫2021·2022-07-03 13:03

《动手学深度学习》(三) -- 卷积神经网络 CNN

长路漫漫2021·2022-07-03 13:25

Pytorch 注意力机制

Pytorch注意力机制0.环境介绍环境使用Kaggle里免费建立的Notebook教程使用李沐老师的动手学深度学习网站和视频讲解小技巧：当遇到函数看不懂的时候可以按Shift+Tab查看函数详解。

哇咔咔负负得正·2022-07-02 07:54

PyTorch注意力机制【动手学深度学习v2】

文章目录1.注意力机制1.1注意力机制1.1.1非参注意力池化层1.1.2Nadaraya-Watson核回归1.1.3参数化的注意力机制1.1.4注意力汇聚：Nadaraya-Watson核回归的代码实现2注意力分数2.1加性注意力2.2缩放点积注意力2.3注意力打分函数代码实现3使用注意力机制的seq2seq4多头注意力5自注意力5.1比较卷积神经网络、循环神经网络和自注意力5.2位置编码5.

紫色银杏树·2022-07-02 07:53

【动手学深度学习Pycharm实现6】权重衰退（正则化）以及查看DataLoader返回的数据

前言李沐大神源代码是用Jupyter写的，笔者想用Pycharm实现并仅作为学习笔记，如有侵权，请联系笔者删除。一、简介权重衰退是最广泛使用的正则化技术之一，一般有L1正则化和L2正则化，这里就不详细介绍了，具体看这位大佬的博客吧：点这里。其主要思想就是通过在损失函数中添加正则项来让参数的取值变小，因为训练数据中常常有噪音，而噪音越大，在训练中w把这些噪音数据也学习了，w也会越大（w越大这点可以证

Stick_2·2022-07-01 07:35

推荐频道

动手学深度学习学习整理