Pytorch学习笔记第5页

Pytorch学习笔记(五):nn.AdaptiveAvgPool2d()函数详解

ZZY_dl·2023-01-07 09:04

Pytorch学习笔记(八):nn.ModuleList和nn.Sequential函数详解

ZZY_dl·2023-01-07 09:34

[pytorch学习笔记] 2. tensor 张量

目录介绍张量初始化1.张量可以直接从数据中创建。数据类型是自动推断的。2.张量通过numpy中的数组进行初始化。3.通过别的张量进行初始化4.使用随机数或常数初始化：Tensor属性张量运算连接张量算术运算单元素张量in-place操作与NumPy桥接TensortoNumPyarrayNumPyarraytoTensor参考介绍Tensor是一种特殊的数据结构，与数组和矩阵非常相似。在PyTor

是安澜啊·2023-01-07 08:01

Pytorch学习笔记（一）张量（Tensor）/ 变量（Variable）

基本数据结构：张量张量（Tensor）Tensor与Variable如何创建张量？张量操作与线性回归张量的操作张量的数学运算线性回归模型举例张量（Tensor）一个多维数组，它是标量、向量、矩阵的高维拓展如图：Tensor与VariableVariable在Pytorch0.4.0之后就并入到了Tensor中。torch.autograd.Variable中的数据类型，主要用于封装Tensor，进

Stefan_xiao·2023-01-07 08:55

PyTorch学习笔记（4）：张量的操作（1）

张量生成之后，还需要对其进行一系列的操作。才能实现我们想要的效果，因此在笔记中记录如下情况：目录张量显示输出第一行向量输出某一行向量输出第一列向量输出最后一列向量输出向量中元素张量整合整合为一个行向量整合为多个列向量张量代数运算张量显示如果想要输出张量中某一个元素、某一个向量，那么就需要有对应的代码来实现。具体的输出方式是这样的：输出第一行向量如果要输出第一行向量，其基本代码是：print(x[0

npuraymond·2023-01-07 08:24

Pytorch学习笔记---4：张量大小、偏移量和步长

张量元数据：大小、偏移量和步长为了在存储区中建立索引，张量依赖于一些明确定义它们的信息：大小、偏移量和步长。如下示图显示了它们如何相互作用。我们可以通过提供相应的索引来得到张量中的第2个点：①偏移量points=torch.tensor([[4.0,1.0],[5.0,3.0],[2.0,1.0]])second_point=points[1]print(second_point.storage_

一件迷途小书童·2023-01-07 08:53

肝完一套985博士总结的目标检测、CNN、PyTorch学习笔记（视频/PPT/代码)...

AI显然是最近几年非常火的一个新技术方向，从几年前大家认识到AI的能力，到现在产业里已经在普遍的探讨AI如何落地了。我们可以预言未来在很多的领域，很多的行业，AI都会在里边起到重要的作用。随着AI的不断持续火热，越来越多的人才涌入进来，但我发现一个行业现象：人才短缺，工程师过剩。目前在商业中有所应用，而且能够创收的只有搜索推荐和计算机视觉，因此，这两个方向的人力缺口很大，尤其是计算机视觉。前两年校

Amusi（CVer）·2023-01-07 08:50

Pytorch学习笔记09----Softmax与交叉熵函数

本文主要讲解了分类问题中的二分类问题和多分类问题之间的区别，以及每种问题下的交叉熵损失的定义方法。由于多分类问题的输出为属于每个类别的概率，要求概率和为1。因此，我们还介绍了如何利用Softmax函数，处理神经网络的输出，使其满足损失函数的格式要求。Softmax与交叉熵函数一、二分类问题和多分类问题1.二分类问题2.多分类问题3.Softmax二、损失函数1.葡萄酒的种类预测2.交叉熵损失函

AI Chen·2023-01-06 14:15

【PyTorch】高级神经网络结构

本文为PyTorch学习笔记，讲解高级神经网络结构。欢迎在评论区与我交流CNN简介卷积神经网络简写为CNN。卷积的意思是不再对每个像素的信息做处理，而是对一小块像素区域的信息做处理。

Louis1874·2023-01-05 23:28

PyTorch学习笔记（6）--神经网络：卷积层

PyTorch学习笔记（6）–神经网络：卷积层本博文是PyTorch的学习笔记，第6次内容记录，主要介绍神经网络卷积层的基本使用。

我这一次·2023-01-05 14:20

PyTorch学习笔记06

1.PyTorchVideo简介近几年来，随着传播媒介和视频平台的发展，视频正在取代图片成为下一代的主流媒体，这也使得有关视频的深度学习模型正在获得越来越多的关注。然而，有关视频的深度学习模型仍然有着许多缺点：计算资源耗费更多，并且没有高质量的modelzoo，不能像图片一样进行迁移学习和论文复现。数据集处理较麻烦，但没有一个很好的视频处理工具。随着多模态越来越流行，亟需一个工具来处理其他模态。除

Shannon_Lau·2023-01-05 14:45

【pytorch学习笔记】第一篇——环境搭建

文章目录1.安装英伟达驱动2.安装Anaconda环境3.安装pytorch、CUDA和cuDNN环境（1）配置国内镜像加速（2）安装4.查看安装环境的版本4.1查看Anaconda版本4.2查看Nvidia驱动版本4.3查看pytorch版本4.4查看CUDA版本4.5查看cuDNN版本5.pycharm配置pytorch由于使用的需要，从现在开始陆续学习并记录pytorch相关的使用，首先这篇

非晚非晚·2023-01-04 14:51

Pytorch学习笔记（二）

张量的操作1、拼接，切分，索引，和变换2、张量的数学运算3、线性回归1、拼接，切分，索引，和变换（1）拼接与切分①torch.cat（tensors,dim,out=None）功能：将张量按维度dim进行拼接tensors:张量序列dim:要拼接的维度②torch.stack(tensors,dim,out=None)功能：在新创建的维度dim上进行拼接tensors：张量序列dim：要拼接的维度

hu120_·2023-01-03 19:24

pytorch学习笔记（1）(数据类型、基础使用、自动求导、矩阵操作、维度变换、广播、拼接拆分、基本运算、范数、argmax、矩阵比较、where、gather)...

一、Pytorch安装安装cuda和cudnn，例如cuda10，cudnn7.5官网下载torch：https://pytorch.org/选择下载相应版本的torch和torchvision的whl文件使用pipinstallwhl_dir安装torch，并且同时安装torchvision二、初步使用pytorch#-*-coding:utf-8-*-__author__='Leo.Z'imp

dianshu9815·2023-01-03 19:24

Pytorch学习（3）：Tensor合并、分割与基本运算

Chunk三、基本运算1.加减乘除2.矩阵乘法mm/@/matmul3.幂运算**4.指数exp/对数log5.近似floor/ceil/round/trunc/frac6.裁剪（归化）clamp总结前言Pytorch

Leafing_·2023-01-03 19:24

pytorch学习笔记（三）数据的拼接、分割与运算

一、前言前文简单的介绍了tensor的索引、切片等操作。本文主要介绍数据的拼接与分割以及数学运算。二、数据的拼接[In]a=torch.rand(4,32,8)[In]b=torch.rand(5,32,8)torch.cat()#需要合并的维度值可以不同，其他维度必须完全相同[In]torch.cat([a,b],dim=0).shape[Out]torch.Size([9,32,8])torc

围白的尾巴·2023-01-03 19:23

Pytorch学习笔记（一）

张量的学习：张量是一种特殊的数据结构，张量可以在GPU或者其他软件中运行importtorchimportnumpyasnp1、直接生成张量data=[[1,2],[3,4]]x_data=torch.tensor(data)注：torch.tensor()单一数据元素的多维矩阵当requires_grad=False不计算梯度=True时，计算梯度2、通过numpy数组来生成张量np_array

m0_46314815胡说养的猪·2023-01-03 11:02

Pytorch学习笔记①——anaconda和jupyter环境的安装（小白教程）

一、安装Pytorch1、首先找到anaconda命令端并点击进入。2、输入如下命令创建子空间（博主的命名是pytorch1.4.0，使用python3.6版本）condacreate-npytorch1.4.0python=3.6对于下载速度慢的话，首先需要进行换源，换源教程详见博客，亲测有效。3、创建完毕，输入如下命令进入创建好的pytorch1.4.0空间中进行后续pytorch安装。con

堇禤·2023-01-03 11:28

pytorch学习笔记 —— torch.nn.Embedding

torch.nn.Embedding可以实现wordembedding，在自然语言处理中比较常用；wordembedding的理解将源数据映射到另外一个空间中，一对一映射。假设将A空间中的单词a1和a2对应B空间中的映射是多维变量b1和b2，那么若a1>>#anEmbeddingmodulecontaining10tensorsofsize3>>>embedding=nn.Embedding(10

piupiurui·2023-01-01 09:37

pytorch学习笔记（新）

pytorch学习笔记原理篇1、torch.nn.BatchNorm2d()详解①原理介绍②代码实现③参数详解2、torch.autograd.functional.jacobian()技巧篇1、utils.save_image

氏族归来·2022-12-31 07:18

pytorch学习笔记

文章目录一、Pytorch张量及基本数据类型二、张量的创建1.通过torch.tensor()方法创建张量，可通过多种形式创建，如下：2.生成随机矩阵三、张量运算一、Pytorch张量及基本数据类型1.张量Tensor是Pytorch最基本的操作对象，它表示一个多维矩阵。标量可以称为0维张量，向量可以称为1维张量，矩阵可以称为2维张量，RGB图像可以表示3维张量。张量类似于Numpy的数组，但张量

Twj871·2022-12-30 12:16

PyTorch学习笔记（三）：Tensor变换

view/reshapea=torch.rand(4,1,28,28)print(a.shape)#torch.Size([4,1,28,28])print(a.view(4,28*28).shape)#torch.Size([4,784])print(a.reshape(4,28*28).shape)#torch.Size([4,784])print(a.view(4,-1).shape)#to

ICDAT_GO·2022-12-30 12:42

Pytorch学习笔记——reshape和view的区别

前言在使用pytorch或者读别人的代码时，reshape和view是最常用的，都是矩阵变形，二者到底有什么区别呢？原文地址：https://discuss.pytorch.org/t/difference-between-view-reshape-and-permute/54157原作者：ptrblckReshape如果可以的话，reshape会尝试返回view，否则会将数据复制到连续（cont

coder1479·2022-12-30 12:08

Pytorch学习笔记8：多分类问题

多分类问题：实际上求解的是随机事件的分布问题引入前篇中，对糖尿病数据集的问题是一个二分类问题，但实际问题中，二分类问题较少，更多的是以MINIST、CIFAR为例的多分类问题。网络设计转换为二分类问题进行判断(eg：当输出为1时，对其他的非1输出都规定为0，以此来进行判断。)但这种情况下，类别之间所存在的互相抑制的关系没有办法体现，当一个类别出现的概率较高时，其他类别出现的概率仍然有可能很高。换言

岳戴·2022-12-30 12:06

【Pytorch学习笔记】8.训练类别不均衡数据时，如何使用WeightedRandomSampler（权重采样器）

文章目录关于类别不平衡数据的训练Pytorch的权重采样器WeightedRandomSamplerWeightedRandomSampler工作流图代码复现训练时的重采样当我们平时处理类别不平衡数据（ImbalancedData）时，比如当你有一个二分类数据集，其中90%的样本标为阳性，10%的样本为阴性，如果直接拿给模型训练，然后你会发现模型的预测准确率Accuracy永远在某个不到90%的值

takedachia·2022-12-30 07:27

Pytorch学习笔记---自动求导机制,线性回归模型搭建

一、自动求导机制torch框架可以自动进行求导，这在搭建网络过程中提供了很大的便利。需要求导的话就在创建tensor时，将求导参数设置为Trueimporttorchimportnumpyasnpx=torch.randn(5,5,requires_grad=True)这个参数默认为False，因此需要求导时，就将其设置为True。利用这个机制进行求导：importtorchimportnumpy

NewSuNess·2022-12-30 03:00

pytorch学习笔记-----现有模型的使用和修改

注意事项：1.很多现有的，比较好的网络模性都在torchvision.models模块下下面观看完整代码importtorchvisionfromtorchimportnn#现有模型的使用和修改vgg16_flase=torchvision.models.vgg16(pretrained=False)#pretrained=false仅仅就是将网络模型在这里进行替换，参数都是随机初始化的#vgg1

完◎笑·2022-12-30 02:27

Pytorch学习笔记---1：正则化降低过拟合

训练模型涉及两个2个关键步骤：1.优化，减少训练集上的损失2.泛化，提高对没见过的数据如验证机和测试集的泛化能力而正则化可以有效的帮助我们的模型收敛和泛化。本文提供三个正则化的方法。一、检查参数：权重惩罚稳定泛化的第一种方法实在损失中添加一个正则化项。这个术语的设计是为了减小模型本身的权重，从而限制训练对它们增长的影响。换句话说，这是对较大权重的惩罚。这使得损失更平滑，并且从拟合单个样本中获得的收

一件迷途小书童·2022-12-30 02:55

pytorch学习笔记2-线性模型

pytorch学习笔记2-线性模型一维线性回归例1随机设置点回归多项式回归例23次多项式回归参考资料一维线性回归例1随机设置点回归#引入numpyimportnumpyasnp#随机设置数据x_train

Evelyn_1987·2022-12-30 02:48

numpy和torch的数据格式

title:Pytorch学习笔记-numpy和torch的数据格式numpy和torch的数据格式学习笔记"""对比学习numpy与tensor数据格式"""importtorchimportnumpyasnpnp_data

Yuzzz.·2022-12-29 21:21

PyTorch学习笔记（3）：张量（Tensor）的生成

目录张量的生成方式随机张量生成常数张量生成查看与调整张量元素的类型张量大小的查看自定义张量元素今天的学习还是要借助Anaconda完成。首先，我们输入(base)C:\Users\imzucn>pythonPython3.8.8(default,Apr132021,15:08:03)[MSCv.191664bit(AMD64)]::Anaconda,Inc.onwin32Type"help","c

npuraymond·2022-12-29 21:19

pytorch学习笔记（三）---卷积神经网络基础

文章目录前言一、卷积神经网络的整体架构1.输入层2.卷积层3.池化层4.全连接层二、总结前言卷积神经网络的用途很广泛，包括检测任务、分类与检索任务、超分辨率重构、医学任务、无人驾驶、人脸识别等，在机器学习领域占领一席之地，本节介绍卷积神经网络的基础内容。一、卷积神经网络的整体架构如下图是卷积神经网络的整体架构，分为四部分：输入层、卷积层、池化层、全连接层。1.输入层卷积神经网络的输入是

浓眉毛梁·2022-12-29 03:02

深度学习第一天（pytorch学习笔记）

目录入坑（2020.4.29）torch环境准备一次比赛的代码加载pytorch框架下的依赖项加载数据集，并分为训练集和测试集开始训练结束语入坑（2020.4.29）喜欢深度学习，喜欢python。看起来torch挺好的。torch环境准备torch(1.5.0)torchvision(0.6.0)cuda(10.2)输入指令执行代码,速度不行的话复制下载链接迅雷打开，可能有惊喜环境配好后，执行i

joe hua·2022-12-29 03:52

Pytorch学习笔记（1）--加载数据

Pytorch加载数据pytorch加载数值主要分为两个部分：复写Dataset类建立一个my_dataset类用于将数据集从硬盘中逐条读取利用Dataloader模块读取数据构建Dataset：构建dataset类主要需要几个步骤：1.初始化definit,一般传入数据文件地址和transform2grtitem方法，后续被dataloader调用的方法，主要传入index，抽出每一个样本，而且

一看就会，上手就废·2022-12-29 03:22

Pytorch学习笔记（2）-常用函数与概念

文章目录1.指定运行设备2.稀疏矩阵3.四则运算4.矩阵运算5.幂、开方、对数运算6.in-place操作7.广播机制8.取整、取余、比较、top-k9.判定异常值10.三角函数11.统计函数1.指定运行设备pytorch可以指定数据运行在cpu或者gpu上，以下为例。importtorch#dev=torch.device("cpu")dev=torch.device("cuda")a=torc

USTC_SC·2022-12-28 16:58

PyTorch学习笔记：针对一个网络的权重初始化方法

#针对一个网络的权重初始化方法importtorchimporttorch.nnasnn##建立一个测试网络classTestNet(nn.Module):def__init__(self):super(TestNet,self).__init__()self.conv1=nn.Conv2d(3,16,3)self.hidden=nn.Sequential(nn.Linear(100,100),n

code_carrot·2022-12-28 10:44

Pytorch学习笔记---2：张量

Pytorch引入了一种基本的数据结构：张量。在深度学习中，张量可以将向量和矩阵推广到任意维度。张量的另一个名称是多维数组，张量的维度与用来表示张量中标量值的索引数量一致。与Numpy数组相比，Pytorch张量具有一些“超能力”，如在GPU上执行非常快的操作、在多个设备或及其上进行分布式操作以及跟踪创建它们的计算图。在实现现代深度学习库时，这些都是重要的特性。本文将介绍使用Pytorch张量库来

一件迷途小书童·2022-12-27 10:17

pytorch学习笔记（四）——MNIST数据集实战

pytorch入门之MINIST数据集实战目录神经网络运作流程回顾识别的四个步骤实现代码目录神经网络运作流程上图所示是一个简单的二层神经网络结构，猫和狗的图片作为输入，依次是输入层，隐层，输出层。每张图片作为输入经过模型得到输出判别是猫还是狗，将输入与真实值之间求误差，再对误差求梯度优化参数w和b，使最后得到的误差尽可能小。回顾上一个博客中我们讲到，我们将输入X经过一个线性模型得再通过ReLU激活

南风渐起·2022-12-27 10:25

Pytorch 学习笔记 nn.ModuleList与nn.Sequential

Pytorch学习笔记nn.ModuleList与nn.Sequentialnn.Sequential是Module的子类，在构建若干个网络层之后，由于其内部已经封装好了forward函数，可以直接调用

Shawn Mendes·2022-12-27 08:18

Pytorch学习笔记-08 常见报错信息

Pytorch学习笔记-08常见报错信息报错：ValueError:num_samplesshouldbeapositiveintegervalue,butgotnum_samples=03可能的原因：

Yuetianw·2022-12-26 11:43

Pytorch学习笔记实例1——二分类

二分类使用损失函数：BCEloss输出层激活方式：sigmoid#!/usr/bin/envpython#coding:utf-8#In[1]:importmatplotlib.pyplotaspltimportnumpyasnpimportpandasaspdimporttorch#In[34]:#读数据#In[2]:data=pd.read_csv('./dataset/credit-a.cs

hello everyone！·2022-12-25 09:20

Pytorch实现线性回归——Pytorch学习笔记一

Pytorch实现线性回归本文所记录的内容是观看B站刘二大人的相关pytorch教学视频所做的笔记视频链接：Pytorch深度学习实践一、Python知识点1.类的继承类做继承时，在初始化时需要这样操作：Module是父类，LinearModel类继承自该父类classLinearModel(torch.nn.Module):def__init__(self):super(LinearModel,

Er_Bai·2022-12-25 09:19

Pytorch实现多分类问题——Pytorch学习笔记二

Er_Bai·2022-12-25 09:49

pytorch学习笔记一：pytorch学习的路线图

1.gpu加速，tensor和autograd(向量和自动求导)2.神经网络工具箱gpu加速示例代码：importtorchimporttimeprint(torch.__version__)print(torch.cuda.is_available())a=torch.randn(10000,

爱学习的人工智障·2022-12-24 15:52

【Pytorch】Pytorch学习笔记01

一、准备工作官网：https://pytorch.org中文文档：https://pytorch.apachecn.org/#/docs/1.7/动手学深度学习：http://zh.d2l.ai/安装pytorch安装torchviz安装graphviz软件(安装到系统变量)https://graphviz.org/download/安装torchviz库pipinstalltorchviz二、基

KmBase·2022-12-24 15:50

Pytorch学习笔记(一)

学习资料：Pytorch中文手册：参见PyTorch中文手册Pytorch深度学习实践：参见《PyTorch深度学习实践》完结合集_哔哩哔哩_bilibili知识点1：Pytorch基础—自动求导—backward()中gradient参数说明转载：https://www.cnblogs.com/bytesfly/p/why-need-gradient-arg-in-pytorch-backwar

白首作舟·2022-12-24 15:49

pytorch学习笔记1-创建tensor（张量，多维数组）

创建Tensor（张量，多维数组）整体程序如下importtorch"""1.创建tensor(张量,多维数组)"""'1.1创建⼀个5x3的未初始化的Tensor'x=torch.empty(5,3)print(x)'1.2创建⼀个5x3的随机初始化的Tensor范围(0,1)'x=torch.rand(5,3)print(x)'1.3创建⼀个5x3的long型全0的Tensor'x=torch

奥利奥好吃呀·2022-12-24 15:18

Pytorch学习笔记(八)----经典卷积神经网络alexnet学习与CIFAR10数据集初探

序言从本节起，将正式走入深度神经网络的大门。关于什么是alexnet、什么是cifar10自行百度。在学习卷积神经网络前，得明白什么是卷积、什么是池化。详细的解释见基础理论中提供的pdf文档。本节主要是使用cifar10数据集对alexnet进行训练，提高对测试集的检测成功率。基础理论https://pan.baidu.com/s/1yv5VIYLjoOPFEwuw1Abw2g详细代码import

oneday_某天·2022-12-24 14:57

PyTorch学习笔记-6.PyTorch的正则化

6.PyTorch的正则化6.1.正则项为了减小过拟合，通常可以添加正则项，常见的正则项有L1正则项和L2正则项L1正则化目标函数：L2正则化目标函数：PyTorch中添加L2正则：PyTorch的优化器中自带一个参数weight_decay，用于指定权值衰减率，相当于L2正则化中的λ参数。权值未衰减的更新公式：权值衰减的更新公式：下面，分别通过不添加L2正则与添加L2正则进行比较：代码实现：#-

ruoqi23·2022-12-24 14:25

PyTorch学习笔记（28） BN LN IN GN

WhyNormalizationInternalCovariateShift(ICS):数据尺度/分布异常，导致训练困难H11=∑i=0nXi∗W1iD(H11)=∑i=0nD(Xi)∗D(W1i)=n∗(1∗1)=n\begin{aligned}\mathrm{H}_{11}=&\sum_{i=0}^{n}X_{i}*W_{1i}\\\mathrm{D}\left(\mathrm{H}_{11}

TongYixuan_LUT·2022-12-24 14:53

推荐频道

Pytorch学习笔记