《动手学深度学习

个人学习笔记7-6：动手学深度学习pytorch版-李沐

#人工智能##深度学习##语义分割##计算机视觉##神经网络#计算机视觉13.11全卷积网络全卷积网络（fullyconvolutionalnetwork，FCN）采用卷积神经网络实现了从图像像素到像素类别的变换。引入l转置卷积（transposedconvolution）实现的，输出的类别预测与输入图像在像素级别上具有一一对应关系：通道维的输出即该位置对应像素的类别预测。13.11.1构造模型下
浪子L·2024-09-16 00:45

动手学深度学习（pytorch土堆）-03常见的Transforms

Composetransforms.Compose是PyTorch中的一个函数，用于将多个图像变换操作组合在一起，形成一个变换流水线。这样可以将一系列的图像处理操作整合为一个步骤，便于对图像进行批量预处理或增强。基本用法transforms.Compose接受一个列表，列表中的每个元素是一个变换操作。这些操作会按照给定的顺序依次作用在输入的图像上。Example:>>>transforms.Com
#include<菜鸡>·2024-09-12 00:51

动手学深度学习（pytorch土堆）-02TensorBoard的使用

1.可视化代码使用了torch.utils.tensorboard将数据记录到TensorBoard以便可视化。具体来说，它将标量数据记录到目录logs中，使用的是SummaryWriter类。代码分解如下：SummaryWriter("logs")：初始化一个TensorBoard的写入器，日志会保存到"logs"目录。writer.add_scalar("y=x",i,i)：在循环的每一次迭代
#include<菜鸡>·2024-09-11 23:15

动手学深度学习（pytorch）学习记录20-自定义层[学习记录]

在深度学习中，自定义层是指开发者根据特定需求编写的神经网络层，而不是使用深度学习框架（如PyTorch、TensorFlow等）提供的现成层。自定义层可以让模型更加灵活，以适应特定的任务或数据集。目录没有参数的自定义层带参数的层没有参数的自定义层下面的CenteredLayer类要从其输入中减去均值。要构建它，只需继承基础层类并实现前向传播功能。importtorchimporttorch.nn.
walfar·2024-08-30 13:13

动手学深度学习（pytorch）学习记录21-读写文件(模型与参数)[学习记录]

目录加载和保存张量加载和保存模型参数保存模型的好处众多，涵盖了从开发到部署的整个机器学习生命周期。节省资源：训练模型可能需要大量的时间和计算资源。保存模型可以避免重复训练，从而节省时间和计算资源。快速部署：一旦模型被训练并保存，它可以迅速部署到生产环境中，加速产品上市时间。版本控制：保存不同版本的模型有助于跟踪模型的迭代过程，便于比较和回滚到之前的版本。离线使用：保存的模型可以在没有网络连接的情况
walfar·2024-08-30 12:42

深度学习多GPU训练原理

详细参考《动手学深度学习》P233，8.4节多GPU计算。数据并行的方法把一个batch的所有数据平均分配到每块GPU的显存里，把模型参数在每个GPU显存上拷贝一份。
浦东新村轱天乐·2024-08-25 22:31

【深度学习笔记】1 数据操作

注：本文为《动手学深度学习》开源内容，仅为个人学习记录，无抄袭搬运意图数据操作在深度学习中，我们通常会频繁地对数据进行操作。作为动手学深度学习的基础，本节将介绍如何对内存中的数据进行操作。
RIKI_1·2024-03-16 02:02

【深度学习模型】6_3 语言模型数据集

注：本文为《动手学深度学习》开源内容，部分标注了个人理解，仅为个人学习记录，无抄袭搬运意图6.3语言模型数据集（周杰伦专辑歌词）本节将介绍如何预处理一个语言模型数据集，并将其转换成字符级循环神经网络所需要的输入格式
RIKI_1·2024-03-12 23:46

【深度学习笔记】6_4 循环神经网络的从零开始实现

注：本文为《动手学深度学习》开源内容，部分标注了个人理解，仅为个人学习记录，无抄袭搬运意图6.4循环神经网络的从零开始实现在本节中，我们将从零开始实现一个基于字符级循环神经网络的语言模型，并在周杰伦专辑歌词数据集上训练一个模型来进行歌词创作
RIKI_1·2024-03-12 07:23

【深度学习笔记】6_10 双向循环神经网络bi-rnn

注：本文为《动手学深度学习》开源内容，部分标注了个人理解，仅为个人学习记录，无抄袭搬运意图6.10双向循环神经网络之前介绍的循环神经网络模型都是假设当前时间步是由前面的较早时间步的序列决定的，因此它们都将信息通过隐藏状态从前往后传递
RIKI_1·2024-03-10 11:07

李沐《动手学深度学习》课程笔记：15 实战：Kaggle房价预测 + 课程竞赛：加州2020年房价预测

15实战：Kaggle房价预测+课程竞赛：加州2020年房价预测1.访问和读取数据集importhashlibimportosimporttarfileimportzipfileimportrequestsDATA_HUB=dict()DATA_URL='http://d2l_data.s3-accelerate.amazonaws.com/'defdownload(name,cache_dir=
非文的NLP修炼笔记·2024-03-07 09:00

从零实现softmax回归【基于Pytorch】

参考资料：沐神——动手学深度学习importtorchimporttorchvisionfrommatplotlibimportpyplotaspltfromtorch.utilsimportdatafromtorchvisionimporttransformsfromd2limporttorchasd2lfromIPythonimportdisplaydefget_dataloader_work
卡仕达酱·2024-02-19 15:52

《动手学深度学习(PyTorch版)》笔记8.6

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter8RecurrentNeuralNetworks8.6ConciseImplementationofRNNimporttorchfrom
南七澄江·2024-02-12 08:03

《动手学深度学习(PyTorch版)》笔记8.7

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter8RecurrentNeuralNetworks8.7BackpropagationThroughTime通过时间反向传播（backpr
南七澄江·2024-02-12 08:03

Pytorch 复习总结 1

Pytorch复习总结，仅供笔者使用，参考教材：《动手学深度学习》本文主要内容为：Pytorch张量的常见运算、线性代数、高等数学、概率论。
ScienceLi1125·2024-02-12 08:02

《动手学深度学习(PyTorch版)》笔记8.5

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter8RecurrentNeuralNetworks8.5ImplementationofRNNfromScratch8.5.1ModelD
南七澄江·2024-02-12 08:00

2-2 动手学深度学习v2-损失函数-笔记

损失函数，用来衡量预测值和真实值之间的区别。是机器学习里面一个非常重要的概念。三个常用的损失函数L2loss、L1loss、Huber’sRobustloss均方损失L2Lossl(y,y′)=12(y−y′)2l(y,y^{\prime})=\frac{1}{2}(y-y^{\prime})^{2}l(y,y′)=21(y−y′)2（除以222的时候，222和12\frac{1}{2}21相互抵
Alkali！·2024-02-12 03:44

2-1 动手学深度学习v2-Softmax回归-笔记

回归VS分类回归估计一个连续值分类预测一个离散类别从回归到多类分类回归单连续数值输出输出的区间：自然区间R\mathbb{R}R损失：跟真实值的区别分类通常多个输出（这个输出的个数是等于类别的个数）输出的第iii个元素是用来预测第iii类的置信度从回归到多类分类——均方损失对类别进行一位有效编码（因为类别不是一个数，可能是一个字符串等等）假设我们有nnn个类别，我们可以用最简单的一位有效编码来进行
Alkali！·2024-02-12 03:14

1-4 动手学深度学习v2-线性回归的简洁实现-笔记

通过使用深度学习框架来简洁地实现线性回归模型生成数据集importnumpyasnpimporttorchfromtorch.utilsimportdata#从torch.utils中引入一些处理数据的模块fromd2limporttorchasd2ltrue_w=torch.tensor([2,-3.4])true_b=4.2features,labels=d2l.synthetic_data(
Alkali！·2024-02-12 03:14

深度学习代码|Multi-Headed Attention (MHA)多头注意力机制的代码实现

相关文章李沐《动手学深度学习》注意力机制文章目录相关文章一、导入相关库二、准备工作（一）理论基础（二）定义PrepareForMultiHeadAttention模块三、多头注意模块（一）理论基础（二）
丁希希哇·2024-02-12 01:18

《动手学深度学习(PyTorch版)》笔记8.3

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter8RecurrentNeuralNetworks8.3LanguageModelsandtheDataset假设长度为TTT的文本序列中
南七澄江·2024-02-11 07:15

《动手学深度学习(PyTorch版)》笔记8.4

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter8RecurrentNeuralNetworks8.4RecurrentNeuralNetworks对nnn元语法模型，单词xtx_tx
南七澄江·2024-02-11 07:15

《动手学深度学习(PyTorch版)》笔记8.1

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter8RecurrentNeuralNetworks8.1SequenceModels用xtx_txt表示在时间步（timestep）t∈Z
南七澄江·2024-02-10 18:28

《动手学深度学习(PyTorch版)》笔记8.2

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter8RecurrentNeuralNetworks8.2TextPreprocessing文本的预处理步骤通常包括：将文本作为字符串加载到
南七澄江·2024-02-10 18:25

《动手学深度学习(PyTorch版)》笔记7.6

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter7ModernConvolutionalNeuralNetworks7.6ResidualNetworks(ResNet)随着我们设计越
南七澄江·2024-02-09 15:48

《动手学深度学习(PyTorch版)》笔记7.7

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter7ModernConvolutionalNeuralNetworks7.7DenselyConnectedNetworks(DenseN
南七澄江·2024-02-09 15:16

李沐《动手学深度学习》注意力机制

系列文章李沐《动手学深度学习》预备知识张量操作及数据处理李沐《动手学深度学习》预备知识线性代数及微积分李沐《动手学深度学习》线性神经网络线性回归李沐《动手学深度学习》线性神经网络softmax回归李沐《
丁希希哇·2024-02-07 16:27

动手学深度学习-02打卡

过拟合、欠拟合及其解决方案1.过拟合、欠拟合的概念2.权重衰减3.丢弃法模型选择、过拟合和欠拟合训练误差和泛化误差训练误差：模型在训练数据集上表现出的误差。泛化误差：模型在任意一个测试数据样本上表现出的误差的期望。模型选择验证数据集除训练集和测试集之外的数据。目的是为了从训练误差估计泛化误差。k折交叉验证把原始训练数据集分割成k个不重合的子数据集，然后做k次模型训练和验证。每一次我们使用一个子数据
一技破万法·2024-02-07 09:06

《动手学深度学习(PyTorch版)》笔记7.4

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter7ModernConvolutionalNeuralNetworks7.4NetworkswithParallelConnections
南七澄江·2024-02-06 18:23

《动手学深度学习(PyTorch版)》笔记7.5

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter7ModernConvolutionalNeuralNetworks7.5BatchNormalization批量规范化应用于单个可选层
南七澄江·2024-02-06 17:51

《动手学深度学习(PyTorch版)》笔记7.3

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter7ModernConvolutionalNeuralNetworks7.3NetworkinNetworks:NiNNiN的想法是在每个
南七澄江·2024-02-06 17:50

李沫动手学深度学习之2.1

本博文复现李沫动手学深度学习，网页链接在此，（第一版）【建议实操之前先通读一遍2.1章节的文档与本教程的文字说明】2.1.获取和运行本书的代码（完成）一些过程总结：（windows）（GPU）1、本人安装的是
一卒2018·2024-02-06 07:33

自然语言处理中的深度学习

教材选用《动手学深度学习》，李沐等著；词嵌⼊（word2vec）⾃然语⾔是⼀套⽤来表达含义的复杂系统。把词映射为实数域向量的技术也叫词嵌⼊（wordembedding）。
qiufeng1ye·2024-02-06 01:37

动手学深度学习-13 循环神经网络进阶

循环神经网络进阶GRURNN存在的问题：梯度较容易出现衰减或爆炸（BPTT）⻔控循环神经⽹络：捕捉时间序列中时间步距离较⼤的依赖关系•重置⻔有助于捕捉时间序列⾥短期的依赖关系；•更新⻔有助于捕捉时间序列⾥⻓期的依赖关系。载入数据集importosos.listdir('/home/kesci/input')#['d2lzh1981','houseprices2807','jaychou_lyric
Xavier学长·2024-02-06 00:52

1-3 动手学深度学习v2-线性回归的从零开始实现-笔记

手动创建训练数据集根据带有噪声的线性模型构造一个人造数据集。我们使用线性模型参数w=[2,−3.4]T\pmb{w}=[2,-3.4]^{T}w=[2,−3.4]T、b=4.2b=4.2b=4.2和噪声项ϵ\epsilonϵ生成数据集及其标签：y=Xw+b+ϵ\pmb{y}=\pmb{Xw}+b+\epsilony=Xw+b+ϵ%matplotlibinline#在plot的时候，默认嵌入到not
Alkali！·2024-02-05 13:57

《动手学深度学习(PyTorch版)》笔记7.2

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter7ModernConvolutionalNeuralNetworks7.2NetworkUsingBlocks:VGGimportmat
南七澄江·2024-02-05 08:20

《动手学深度学习(PyTorch版)》笔记7.1

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter7ModernConvolutionalNeuralNetworks7.1DeepConvolutionalNeuralNetwork:
南七澄江·2024-02-05 08:45

动手学深度学习v2-基础优化方法-笔记

最常见的算法——梯度下降当一个模型没有显示解的时候，该怎么办呢？首先挑选一个参数的随机初始值，可以随便在什么地方都没关系，然后记为w0\pmb{w_{0}}w0在接下来的时刻里面，我们不断的去更新w0\pmb{w_{0}}w0，使得它接近我们的最优解具体来说：挑选一个初始值w0\pmb{w_{0}}w0重复迭代参数t=1，2，3t=1，2，3t=1，2，3wt=wt−1−η∂ℓ∂wt−1\pmb{
Alkali！·2024-02-04 19:07

动手学深度学习v2-线性回归-笔记

简化核心模型假设1:影响房价的关键因素是卧室个数，卫生间个数和居住面积，记为x1x_{1}x1，x2x_{2}x2，x3x_{3}x3假设2:成交价是关键因素的加权和y=w1x1+w2x2+w3x3+by=w_{1}x_{1}+w_{2}x_{2}+w_{3}x_{3}+by=w1x1+w2x2+w3x3+b权重和偏差的实际值在后面决定线性一般模型给定nnn维输入x=[x1,x2,...,xn]T
Alkali！·2024-02-04 19:35

[动手学深度学习-PyTorch版]-5.11卷积神经网络-残差网络（ResNet）

5.11残差网络（ResNet）让我们先思考一个问题：对神经网络模型添加新的层，充分训练后的模型是否只可能更有效地降低训练误差？理论上，原模型解的空间只是新模型解的空间的子空间。也就是说，如果我们能将新添加的层训练成恒等映射f(x)=x，新模型和原模型将同样有效。由于新模型可能得出更优的解来拟合训练数据集，因此添加层似乎更容易降低训练误差。然而在实践中，添加过多的层后训练误差往往不降反升。即使利用
蒸饺与白茶·2024-02-04 15:45

李沐《动手学深度学习》循环神经网络 经典网络模型

系列文章李沐《动手学深度学习》预备知识张量操作及数据处理李沐《动手学深度学习》预备知识线性代数及微积分李沐《动手学深度学习》线性神经网络线性回归李沐《动手学深度学习》线性神经网络softmax回归李沐《
丁希希哇·2024-02-04 14:43

李沐《动手学深度学习》卷积神经网络 经典网络模型

系列文章李沐《动手学深度学习》预备知识张量操作及数据处理李沐《动手学深度学习》预备知识线性代数及微积分李沐《动手学深度学习》线性神经网络线性回归李沐《动手学深度学习》线性神经网络softmax回归李沐《
丁希希哇·2024-02-04 14:42

动手学深度学习(二)——正则化(从零开始)

文章作者：Tyan博客：noahsnail.com|CSDN|注：本文为李沐大神的《动手学深度学习》的课程笔记！
SnailTyan·2024-02-04 14:13

《动手学深度学习(PyTorch版)》笔记6.3

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter6ConvolutionalNeuralNetwork(CNN)6.3LeNetLeNet模型中每个卷积块中的基本单元是一个卷积层、一个
南七澄江·2024-02-03 13:31

《动手学深度学习(PyTorch版)》笔记6.1

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter6ConvolutionalNeuralNetwork(CNN)6.1BasicConcepts卷积神经网络将空间不变性（spatial
南七澄江·2024-02-03 13:57

《动手学深度学习(PyTorch版)》笔记6.2

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter6ConvolutionalNeuralNetwork(CNN)6.2ImageConvolutionOperation6.2.1Con
南七澄江·2024-02-03 13:57

pytorch-动手学深度学习

目录2.预备知识2.1数据操作torch.arange()x.shapex.numel()x.reshape(m,n)torch.zeros((2,3,4))torch.ones((2,3,4))torch.randn(3,4)torch.tensor([[2,1,4,3],[1,2,3,4],[4,3,2,1]])x+y,x-y,x*y,x/y,x**y,x==ytorch.exp(x)torc
比三毛多一根头发·2024-02-03 07:25

Accumulator类(李沐动手学深度学习)

classAccumulator:def__init__(self,n):self.data=[0.0]*ndefadd(self,*args):self.data=[a+float(b)fora,binzip(self.data,args)]defreset(self):self.data=[0.0]*len(self.data)def__getitem__(self,idx):returnse
代码猪猪傻瓜coding·2024-01-31 02:57

《动手学深度学习(PyTorch版)》笔记5

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过,对于书上部分章节也做了整合。Chapter5DeepLearningComputation5.1LayersandBlocksimporttorchfromtorchimportnn
南七澄江·2024-01-30 06:10

动手学深度学习（一）深度学习介绍1

目录一、引言1.日常生活中的机器学习：2.机器学习中的关键组件：2.1数据：2.2模型：2.3目标函数：2.4优化算法：3.各种机器学习问题：3.1监督学习：3.1.1回归：3.1.2分类：3.1.3标记问题：3.1.4搜索：3.1.5推荐系统：3.1.6序列学习：3.2无监督学习：3.3与环境互动：3.4强化学习：一、引言时至今日，人们常用的计算机程序几乎都是软件开发人员从零编写的。比如，现在开
Shining0596·2024-01-30 02:32
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他