动手深度学习

批量归一化

参考李沐老师的动手深度学习,只作为个人笔记.文章目录前言一、为什么要批量归一化二、批量归一化三、批量归一化层总结前言训练深层神经网络是十分困难的，特别是在较短的时间内使他们收敛更加棘手。
笔写落去·2024-01-11 06:37

softmax回归+损失函数

本文章借鉴李沐老师动手深度学习,只作为个人笔记.3.4.softmax回归—动手学深度学习2.0.0documentation(d2l.ai)文章目录前言一、回归vs分类二、分类问题独热编码(One-HotEncoding
笔写落去·2024-01-08 13:42

一个实例让你初识图像卷积

本篇文章参考李沐老师动手深度学习,只作为个人笔记.文章目录前言一、卷积二、回顾全连接层三.全连接层到卷积四.图像的边缘检测1.定义互相关运算函数2.卷积层,与一维一样,把它当成一种运算就好理解了3.图像中目标的边缘检测五
笔写落去·2024-01-07 07:25

梯度消失与梯度爆炸的问题小结

本文参考李沐老师动手深度学习,上篇激活函数有遇到这个问题我们来深入探讨一下文章目录前言一、梯度爆炸二、梯度爆炸的问题三、梯度消失四.梯度消失的问题总结前言到目前为止，我们实现的每个模型都是根据某个预先指定的分布来初始化模型的参数
笔写落去·2024-01-07 07:55

权重初始化和激活函数小结

本文章参考李沐老师的动手深度学习,作为个人的笔记.4.8.数值稳定性和模型初始化—动手学深度学习2.0.0documentation(d2l.ai)文章目录前言首先我们理想的神经网络是什么样子的?
笔写落去·2024-01-07 07:55

动手深度学习笔记（四十八）8.4. 循环神经网络

动手深度学习笔记（四十八）8.4.循环神经网络8.4.循环神经网络8.4.1.无隐状态的神经网络8.4.2.有隐状态的循环神经网络8.4.3.基于循环神经网络的字符级语言模型8.4.4.困惑度（Perplexity
落花逐流水·2024-01-02 13:54

动手深度学习笔记（四十九）8.5. 循环神经网络的从零开始实现

动手深度学习笔记（四十九）8.5.循环神经网络的从零开始实现8.5.循环神经网络的从零开始实现8.5.1.独热编码8.5.2.初始化模型参数8.5.3.循环神经网络模型8.5.4.预测8.5.循环神经网络的从零开始实现本节将根据
落花逐流水·2024-01-02 13:23

【2023年终总结】 | 时光之舟：乘载着回忆与希望穿越2023，抵达2024

年初的时候确认去做AI方向，在这之前我尝试了前端开发，移动App开发，云FPGA等方向，但是感觉自己都不是很喜欢，然后就开始尝试新的方向——AI方向，我跟着鲁鹏老师的课计算机视觉课，又去学习了李沐老师的动手深度学习
Qodi·2024-01-01 19:01

Python包的冲突问题（血泪教训）

这两个都很重要记得自己在安装李沐老师的动手深度学习d2l的包的时候，没注意python版本3.9，只关注了包的版本，发现冲突以后自己一点
Qodi·2023-12-03 14:58

（14）学习笔记：动手深度学习（Pytorch神经网络基础）

文章目录神经网络的层与块块的基本概念自定义块问答神经网络的层与块块的基本概念  以多层感知机为例，整个模型接受原始输入（特征），生成输出（预测），并包含一些参数（所有组成层的参数集合）。  同样，每个单独的层接收输入（由前一层提供），生成输出（到下一层的输入），并且具有一组可调参数，这些参数根据从下一层反向传播的信号进行更新。块可以描述单个层、由多个层组成的组件或者模型本身。在pytorch中，块
卡拉比丘流形·2023-11-06 00:05

机器学习之多层感知机 MLP简洁实现 《动手深度学习》实例

欢迎小伙伴们点赞、收藏⭐、留言本篇文章主要介绍《动手深度学习》实例中的多层感知机MLP的简洁实现。一、代码实现多层感知机（MLP）的简洁实现如下所示。
Linux猿·2023-11-04 08:04

《动手深度学习》线性回归简洁实现实例

欢迎小伙伴们点赞、收藏⭐、留言本文是《动手深度学习》线性回归简洁实现实例的实现和分析，主要对代码进行详细讲解，有问题欢迎在评论区讨论交流。一、代码实现实现代码如下所示。
Linux猿·2023-10-31 09:25

3.2&3.3 线性回归的从零开始实现|Pytorch简洁实现

学习链接：李沐老师的动手深度学习v2书、视频链接代码部分的理解笔记。
谢桥光·2023-10-06 18:09

动手深度学习笔记（三十三）6.3. 填充和步幅

动手深度学习笔记（三十三）6.3.填充和步幅题6.卷积神经网络6.3.填充和步幅6.3.1.填充6.3.2.步幅6.3.3.小结6.3.4.练习6.卷积神经网络6.3.填充和步幅在前面的例子图6.2.1
落花逐流水·2023-09-27 06:07

动手深度学习——Windows下的环境安装流程（一步一步安装，图文并配）

目录环境安装官网步骤图文版安装Miniconda下载包含本书全部代码的压缩包使用conda创建虚拟（运行）环境使用conda创建虚拟环境并安装本书需要的软件激活之前创建的环境打开Jupyter记事本环境安装文章参考来源：http://t.csdn.cn/tu8V8官网步骤图文版安装Miniconda根据操作系统下载并安装Miniconda，在安装过程中需要勾选“AddAnacondatothesy
Audery867·2023-09-11 07:40

动手深度学习：08 线性回归（线性回归的从零开始实现）（二）

1、线性回归的从零开始实现我们将从零开始实现整个方法，包括数据流水线、模型、损失函数和小批量随机梯度下降优化器d2l包可以直接在conda的prompt里面输入命令pipinstall-Ud2l来安装%matplotlibinlineimportrandom#导入随机数包importtorch#fromd2limporttorchasd2l#l是字母defsynthetic_data(w,b,nu
xiao52x·2023-09-01 21:45

《动手深度学习》 线性回归从零开始实现实例

欢迎小伙伴们点赞、收藏⭐、留言本文是《动手深度学习》线性回归从零开始实现实例的实现和分析。一、代码实现实现代码如下所示。
Linux猿·2023-08-28 21:46

【动手深度学习-笔记】R-CNN系列

【动手深度学习-笔记】R-CNN系列R-CNNFastR-CNN兴趣区域池化层FasterR-CNN区域提议网络MaskR-CNN总结参考R-CNN区域卷积神经网络（region-basedCNN或regionswithCNNfeatures
wonder-wall·2023-08-03 03:46

【动手深度学习v2】with torch.no_grad()用法

在sgd的实现代码中，使用到了withtorch.no_grad()：defsgd(params,lr,batch_size):#@save"""小批量随机梯度下降"""withtorch.no_grad():forparaminparams:param-=lr*param.grad/batch_sizeprint(f'参数：{param}梯度：{param.grad}')param.grad.z
岁余十二.·2023-07-19 10:34

【动手深度学习v2】anchor的生成

生成多个锚框首先是示例代码：defmultibox_prior(data,sizes,ratios):"""生成以每个像素为中心具有不同形状的锚框"""in_height,in_width=data.shape[-2:]device,num_sizes,num_ratios=data.device,len(sizes),len(ratios)boxes_per_pixel=(num_sizes+n
岁余十二.·2023-07-19 10:02

2023.6.8小记——嵌入式系统初识、什么是ARM架构？

今天还挺充实的，早上在图书馆本来想学一下notion，结果看李沐老师的动手深度学习看到十点半，在电脑上配置了李沐老师的d2l和jupyter，等后续有时间的时候再继续学。
安和橋北·2023-06-12 10:08

跟着李沐大神动手深度学习笔记——权重衰退

权重衰退使用均方范数作为硬性限制如下所示，其中l是我们要优化的损失函数，w和b是两个参数。w为权重，b为偏移，但这个优化函数并不常用，多使用下面的柔性限制。image-20210902210126877.png使用均方范数作为柔性限制image-20210902211206725.png以上可以通过拉格朗日乘子来证明，超参数控制了正则项的重要程度。image-20210902211415694.p
a_Janm·2023-04-19 06:12

动手深度学习矩阵求导

目录一.函数与标量、向量、矩阵二.矩阵求导的本质三.矩阵求导结果的布局函数是实值标量变元是向量1.1行向量偏导形式1.2梯度向量形式变元是矩阵2.1行向量偏导形式（将矩阵变元转为向量变元）2.2雅克比矩阵2.3梯度向量形式（将矩阵变元转为向量变元）2.4梯度矩阵形式函数：矩阵变元：矩阵3.1雅克比矩阵3.2梯度矩阵形式总结：/*上面主要是定义，下面是实际使用时的计算*/一.矩阵的迹1、定义2、一些
piolet0016·2023-04-11 14:06

【李沐-动手深度学习v2】笔记整理-08线性回归+基础优化算法

线性回归线性回归是单层的神经网络模型通过平方损失来衡量预测质量，1/2便于求导训练损失：加均值基础优化算法梯度下降梯度是上升最快的方向，负梯度即为下降最快的方向。因为该函数表示训练损失，所以要找下降最快的方向来更新参数学习率即为每次的步长学习率太小，步数多，计算梯度的次数多，太贵；而且陷入局部最优解学习率太大，容易在最优解附近振荡小批量随机梯度下降抽样。通过计算b个样本的平均损失，代替总体然后进行
liuuu0·2023-03-28 21:09

动手深度学习笔记（四十三）7.7. 稠密连接网络（DenseNet）

动手深度学习笔记（四十三）7.7.稠密连接网络（DenseNet）7.7.稠密连接网络（DenseNet）7.7.稠密连接网络（DenseNet）ResNet极大地改变了如何参数化深层网络中函数的观点。
落花逐流水·2023-02-07 07:45

动手深度学习笔记（四十二）7.6. 残差网络（ResNet）

动手深度学习笔记（四十二）7.6.残差网络（ResNet）7.6.残差网络（ResNet）7.6.1.函数类7.6.2.残差块7.6.3.ResNet模型7.6.4.训练模型7.6.5.小结7.6.6.
落花逐流水·2023-02-07 07:14

线性回归的框架实现和非框架实现

这是看了李沐大神的动手深度学习，自己敲了一遍，直接上代码吧，注释已经写的很清楚了用pytorch实现importnumpyasnpimporttorchfromtorch.utilsimportdatafromd2limporttorchasd2l
conquer777·2023-02-05 18:24

动手深度学习-线性神经网络：softmax回归

目录1.分类问题2.网络架构3.softmax运算4.损失函数交叉熵损失函数参考教程：https://courses.d2l.ai/zh-v2/1.分类问题从回归到多类分类：对类别进行一位有效编码——独热编码（one-hotencoding）。独热编码是一个向量，它的分量和类别一样多。类别对应的分量设置为1，其他所有分量设置为0：y=[y1,y2,…,yn]⊤yi={1ifi=y0otherwis
百分之七.·2023-02-03 14:03

动手深度学习-多层感知机

目录感知机多层感知机激活函数sigmoid函数tanh函数ReLU函数多层感知机的简洁实现参考教程：https://courses.d2l.ai/zh-v2/感知机模型：感知机模型就是一个简单的人工神经网络。感知机是二分类的线性模型，其输入是实例的特征向量，输出的是事例的类别，分别是+1和-1，属于判别模型。它的求解算法等价于使用批量大小为1的梯度下降。多层感知机多层感知机（multilayerp
百分之七.·2023-02-03 14:03

动手深度学习-欠拟合和过拟合

目录训练误差和泛化误差K-折交叉验证欠拟合和过拟合模型复杂性数据集大小权重衰减权重衰减简洁实现暂退法（Dropout）从零开始实现Dropout简洁实现参考教程：https://courses.d2l.ai/zh-v2/训练误差和泛化误差训练误差（trainingerror）是指，模型在训练数据集上计算得到的误差。泛化误差（generalizationerror）是指，模型在新数据上的误差。K-折
百分之七.·2023-02-03 14:03

2.4微分（动手深度学习v2）

学习目标：动手深度学习V2（进度：7/73）学习内容：小结微分和积分是微积分的两个分支，其中前者可以应用于深度学习中无处不在的优化问题。导数可以被解释为函数相对于其变量的瞬时变化率。
多恩Stone·2023-02-02 08:20

《动手深度学习》6.1从全连接到卷积

6.1从全连接到卷积不变性互相关运算卷积层图像中目标的边缘检测通道/特征映射（featuremaps）感受野卷积神经网络（convolutionalneuralnetworks，CNN）是机器学习利用自然图像中一些已知结构的创造性方法。卷积就是一个特殊的全连接层。不变性从一张图中寻找某个物体时，识别与物体的位置无关。平移不变性（translationinvariance）：不管检测对象出现在图像中
Mavis00·2023-02-02 08:49

《动手深度学习》5.2. 参数管理&5.4自定义层&5.5读写文件

5.2.参数管理&&5.4自定义层&&5.5读写文件5.2参数管理内容大纲参数访问索引某一层&访问参数state_dict()访问目标参数一次性访问所有参数从嵌套的块中收集参数参数初始化内置初始化自定义初始化参数绑定/参数共享共享参数的好处5.4自定义层不带参数的层带参数的层5.5读写文件加载和保存张量加载和保存模型参数5.2参数管理内容大纲访问参数，用于调试、诊断和可视化。参数初始化。在不同模型
Mavis00·2023-02-02 08:48

《动手深度学习》从零实现softmax之——图像分类数据集的处理

从零实现softmax图像分类数据集的处理(后续常用)Fashion-MNIST读取数据集小批量数据可视化(不需要d2l库)读取小批量数据data.DataLoader整合为完整的读取数据的方法python基础语法plt.subplots()的使用图像分类数据集的处理(后续常用)Fashion-MNISTMNIST数据集[LeCunetal.,1998]是图像分类中广泛使用的数据集之一，但作为基准
Mavis00·2023-02-02 08:18

《动手深度学习》2.4微积分

《动手深度学习》2.4微积分&2.5自动微分微积分定义：取极限matplotlib绘图相关（拓展内容）这两条曲线的简单绘制方法多元函数微分(向量/矩阵微分)——偏导数拓展到矩阵求导python语法补充：
Mavis00·2023-02-02 08:44

（九）学习笔记：动手深度学习（多层感知机 + 代码实现）

目录1.感知机1.1感知机的基本概念1.2感知机的训练算法1.3感知机的收敛定理1.4感知机的缺陷1.5感知机总结2.多层感知机2.1多层感知机的简介2.2常见激活函数2.2.1ReLU函数2.2.2sigmoid函数tanh函数3.多层感知机的从零开始实现3.1初始化模型参数3.2激活函数3.3模型3.4损失函数3.5训练3.6小结4.多层感知机的简洁实现4.1模型4.3小结5答疑1.感知机1.
卡拉比丘流形·2023-01-31 14:27

《动手深度学习》4.10. 实战Kaggle比赛：预测房价

4.10.实战Kaggle比赛：预测房价本节内容预览数据下载和缓存数据集访问和读取数据集使用pandas读入并处理数据数据预处理处理缺失值&对数值类数据标准化处理离散值—one-hot编码最后，转换为张量表示训练先用简单线性模型进行数据验证K折交叉验证模型选择提交Kagglepython语法Pandas使用计算MSZoning列的重复值torch.clamp(input,min,max)本节内容预
Mavis00·2023-01-30 13:58

动手深度学习-pytorch数据操作

N维数组是机器学习和神经网络的主要数据结构创建数组需要形状：如3*4的矩阵每个元素的类型：例如32位浮点数每个元素的值：例如全是0.或者随机数数据操作首先，导入torch张量表示一个数值组成的数组，这个数组可能有多个维度可以通过张量的shape属性来访问张量的形状和张量中元素的总数如果想要改变一个张量的形状而不改变元素数量和元素值，可以调用reshape函数使用全0、全1、其他常量或者从特定分布中
Knoka705·2023-01-29 00:08

三个优秀的语义分割框架 PyTorch实现

【导语】本文基于动手深度学习项目讲解了FCN进行自然图像语义分割的流程，并对U-Net和Deeplab网络进行了实验，在Github和谷歌网盘上开源了代码和预训练模型，训练和预测的脚本已经做好封装，读者可以自行下载使用
人工智能与算法学习·2023-01-18 14:45

解决d2l包下载不了的问题

目录关于d2l包1、在pypi网站的找到d2l包2、cmd下载文件3、检测d2l包的下载是否成功4、在虚拟环境中完成安装关于d2l包d2l包是李沐老师等人开发的《动手深度学习》配套的包，最初的时候，我并没有安装的想法
夏天是冰红茶·2023-01-18 10:41

04数据操作+数据预处理笔记-李沐老师【动手深度学习V2】

一、数据操作部分（代码和部分注解）代码中不懂的部分（搜的博客）：range，xrange，arange的区别：cat和dim是什么意思：二、数据预处理部分（代码和部分注解）代码中不懂的部分（搜的博客）：pd.get_dummies()用法：reshape和view的区别os.mkdir()与os.makedirs()的使用方法os.path.****的各种命令，如下零散问题：1.什么是import
郑建宇Jy·2023-01-17 07:21

Windows下安装CUDA和Pytorch

目录1.cudatoolkitDownload2.cuDNNDownload3.pytorch下载安装4.用动手深度学习的一个项目测试1.cudatoolkitDownloadcmd输入nvidia-smi
haqiedaba·2023-01-11 11:56

动手深度学习13：计算机视觉——语义分割、风格迁移

文章目录一、语义分割1.1语义分割简介1.2PascalVOC2012语义分割数据集1.2.1下载、读取数据集1.2.2构建字典（RGB颜色值和类名互相映射）1.2.3数据预处理1.2.4整合所有组件,读取PascalVOC2012数据集二、转置卷积2.1基本原理2.2转置卷积基本实现2.3填充、步幅和多通道2.4常规卷积与转置卷积的配合使用2.5转置卷积：矩阵变换2.5.1常规卷积的矩阵实现2.
神洛华·2023-01-11 06:16

深度学习的权重衰减是什么_动手深度学习PyTorch（四）权重衰减

动手深度学习PyTorch(二)模型选择、欠拟合和过拟合中我们观察了过拟合现象，即模型的训练误差远小于它在测试集上的误差。虽然增大训练数据集可能会减轻过拟合，但是获取额外的训练数据往往代价高昂。
未来世界的幸存者·2023-01-10 17:12

《动手深度学习》2.5 反向传播自动求导

《动手深度学习》2.5反向传播自动求导反向传播理论推导pytorch代码实战初始定义基本量定义模型(构建计算图)保留一下训练前的预测值训练！！！
Mavis00·2023-01-10 16:54

动手深度学习--windows环境安装

第⼀次运⾏需要完整完成下⾯3个步骤。如果是再次运⾏，可以忽略前⾯3步的下载和安装，直接跳转到第四步。第一步是根据操作系统下载并安装Miniconda，在安装过程中需要勾选“AddAnacondatothesystemPATHenvironmentvariable”选项，将python添加到环境变量中。（https://conda.io/en/master/miniconda.html）第二步是下载
诸葛三石·2023-01-08 07:08

动手深度学习笔记（十三）3.6. softmax回归的从零开始实现

动手深度学习笔记（十三）3.6.softmax回归的从零开始实现3.线性神经网络3.6.softmax回归的从零开始实现3.6.1.初始化模型参数3.6.2.定义softmax操作3.6.3.定义模型3.6.4
落花逐流水·2023-01-06 11:50

pytorch数据操作实现

内容全部来自李沐老师的《动手深度学习》，感谢李老师这是我边学边敲的主要数据结构：n维数组0-d（标量）表示类别：1.01-d（向量）一个特征向量：[1.0，2.7，3.4]2-d（矩阵）一个样本的特征矩阵
白蜡虫可·2023-01-05 19:19

《动手深度学习》2.3线性代数

《动手深度学习》2.3线性代数基本运算哈达玛积Hadamardproduct降维&非降维降维操作非降维求和，保持轴数不变cumsum累加求和，各轴维度也不变乘法操作点积矩阵-向量乘法矩阵-矩阵乘法向量范数
Mavis00·2023-01-03 20:37

深度学习环境搭建-整理参考链接

1、李沐深度学习课程安装动手深度学习–windows环境安装李沐《动手学深度学习》学习笔记（2）windows10下的环境配置李沐动手学深度学习视频教程环境配置2、Windows搭建gpu或者cpu版本的
码农小C·2022-12-31 15:19
上一页 1 2 3 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他