PyTorch学习笔记

pytorch标签onehot编码_PyTorch学习笔记——多分类交叉熵损失函数

理解交叉熵关于样本集的两个概率分布p和q，设p为真实的分布，比如[1,0,0]表示当前样本属于第一类，q为拟合的分布，比如[0.7,0.2,0.1]。按照真实分布p来衡量识别一个样本所需的编码长度的期望，即平均编码长度（信息熵）：如果使用拟合分布q来表示来自真实分布p的编码长度的期望，即平均编码长度（交叉熵）：直观上，用p来描述样本是最完美的，用q描述样本就不那么完美，根据吉布斯不等式，恒成立，当
定乎内外之分·2021-01-02 21:18

Pytorch学习笔记-多层感知机

深度学习主要关注多层模型。以多层感知机（multilayerperceptron，MLP）为例，学习深层神经网络。隐藏层多层感知机在单层神经网络的基础上引入了一到多个隐藏层（hiddenlayer）。隐藏层位于输入层和输出层之间。图中展示了一个多层感知机的神经网络图，它含有一个隐藏层，该层中有5个隐藏单元。图中多层感知机中，输入和输出个数分别为4和3，中间的隐藏层中包含了5个隐藏单元（hidden
Dexter_Sun1·2020-12-21 16:34

Pytorch学习笔记-线性回归

线性回归线性回归输出是一个连续值，因此适用于回归问题。与回归问题不同，分类问题中模型的最终输出是一个离散值。我们所说的图像分类、垃圾邮件识别、疾病检测等输出为离散值的问题都属于分类问题的范畴。softmax回归则适用于分类问题。由于线性回归和softmax回归都是单层神经网络，它们涉及的概念和技术同样适用于大多数的深度学习模型。以线性回归为例。线性回归基本要素以一个简单的房屋价格预测作为例子来解释
Dexter_Sun1·2020-12-17 10:06

pytorch学习笔记3-线性回归

线性回归线性回归是分析一个变量与另外一个（多）个变量之间关系的方法因变量：y自变量：x关系：线性y=wx+b->求解w,b求解步骤：1.确定模型Module:y=wx+b2.选择损失函数MSE：均方差等3.求解梯度并更新w,bw=w-LR*w.gradb=b-LR*w.gradLR:步长，即学习率->迭代更新使损失函数值较小即可importtorchimportmatplotlib.pyplota
berry丶·2020-12-09 19:58

Pytorch学习笔记（二）自用

:A60MINUTEBLITZ2.莫烦python个人网站、b站视频、参考代码、强化学习3.函数搜索：https://pytorch.org/docs/stable/index.html系列学习笔记：Pytorch
YY_172·2020-12-06 22:33

pytorch学习笔记十七：官方API文档小总结

一、torch下的常用API，基本上都是对数据进行处理的函数①操作数据：torch.is_tensor,torch.set_default_dtype,torch.get_default_dtype,torch.cat,torch.index_select,torch.reshape,torch.squeeze,torch.t,torch.unsqueeze,torch.transpose,tor
2021_277·2020-12-06 21:31

Pytorch学习笔记（2）——Pytorch基础

第二章PyTorch基础PyTorch是Facebook团队于2017年1月发布的一个深度学习框架，虽然晚于TensorFlow、Keras等框架，但自发布之日起，其关注度就在不断上升，目前在GitHub上的热度已超过Theano、Caffe、MXNet等框架。PyTorch采用Python语言接口来实现编程，非常容易上手。它就像带GPU的Numpy，与Python一样都属于动态框架。PyTorc
智慧的旋风·2020-11-21 16:08

pytorch线性回归代码_PyTorch 学习笔记汇总（完结撒花）

PyTorch学习笔记这篇文章是我学习PyTorch过程中所记录的学习笔记汇总，包括25篇文章，是我学习PyTorch框架版课程期间所记录的内容。
weixin_39904587·2020-11-21 11:47

PyTorch学习笔记（4）torchvision

torchvision有4个功能模块：model、datasets、transforms和utils。利用datasets可以下载一些经典数据集，本次笔记主要记录如何使用datasets的ImageFolder处理自定义数据集，以及如何使用transforms对源数据进行预处理、增强等。1.transformstransforms提供了对PILImage对象和Tensor对象的常用操作。1）对PI
梆子井欢喜坨·2020-11-20 19:47

PyTorch学习笔记：torch.optim---Optimizer以及lr_scheduler

本文参考PyTorchoptim文档1概述1.1PyTorch文档：torch.optim解读下图是optim的文档TORCH.OPTIMtorch.optimisapackageimplementingvariousoptimizationalgorithms.Mostcommonlyusedmethodsarealreadysupported,andtheinterfaceisgenerale
Codefmeister·2020-11-14 09:11

pytorch学习笔记(二）

pytorch中的所有网络都叫做类，子类化.nn模块，实现-init-和method，在-init-模块中，初始化网络层，在forword模块中，输入数据，返回输出结果。父类作为参数传递到参数名中，-init-是构造函数。super将子类中的参数传递到父类中。基于你要解决的问题确定你的最后一层。回归问题，使用线性层，比如预测一件衣服的价格分类问题，使用sigmod激活函数，比如要分辨是不是某件东西
weixin_44223902·2020-11-07 08:30

Pytorch学习笔记（一）自用

DEEPLEARNINGWITHPYTORCH:A60MINUTEBLITZ2.莫烦python个人网站、b站视频、参考代码3.函数搜索：https://pytorch.org/docs/stable/index.html系列学习笔记：Pytorch
YY_172·2020-11-06 22:07

pytorch学习笔记

介绍这个目录是从深度之眼的pytorch课程中学习并整理的学习笔记课程页面入口课程代码github作业讲解代码课程所有代码汇总中配套数据百度网盘地址：https://pan.baidu.com/s/1mA8wSCLnKphByzvHBzc9Pw提取码：g5ym课程所有课件汇总百度网盘地址：https://pan.baidu.com/s/1svt3lbDgNGixk5lKM1zfig提取码：9j2f
每天净瞎搞·2020-10-24 21:19

[PyTorch 学习笔记] 汇总 - 完结撒花

PyTorch学习笔记这篇文章是我学习PyTorch过程中所记录的学习笔记汇总，包括25篇文章，是我学习深度之眼PyTorch框架版课程期间所记录的内容。
张贤同学·2020-10-17 09:49

pytorch学习笔记2

注：本文是笔者结合自己阅读和使用pytorch的经验，又系统学习了一遍https://github.com/chenyuntc/pytorch-book的过程中，将自己认为有必要掌握和记住的知识整理成的学习笔记，并非系统的教程，主要目的是为了方便自己梳理、记忆知识，以及方便有相同需求的读者查阅某些知识。逐元素操作1、在pytorch中，不仅仅针对逐元素的操作，tensor的计算往往具有两种形式，比
jijijix·2020-09-17 11:56

pytorch学习笔记3 求导

注：本文是笔者结合自己阅读和使用pytorch的经验，又系统学习了一遍https://github.com/chenyuntc/pytorch-book的过程中，将自己认为有必要掌握和记住的知识整理成的学习笔记，并非系统的教程，主要目的是为了方便自己梳理、记忆知识，以及方便有相同需求的读者查阅某些知识。计算图对于，其计算图表示如下关于计算图，有以下两点：(1)计算图中有两种节点，变量（椭圆形）和操
jijijix·2020-09-17 11:56

pytorch学习笔记1 Tensor的创建、变型与变维、索引、类型

注：本文是笔者结合自己阅读和使用pytorch的经验，又系统学习了一遍https://github.com/chenyuntc/pytorch-book的过程中，将自己认为有必要掌握和记住的知识整理成的学习笔记，并非系统的教程，主要目的是为了方便自己梳理、记忆知识，以及方便有相同需求的读者查阅某些知识。tensor的创建1、使用torch.Tensor创建根据参数不同，具体分为两种（1）如果参数直
jijijix·2020-09-17 11:56

Pytorch学习笔记（三）wordEmbedding的使用

词嵌入的作用，意义什么的我就不多说了！你们可以去看看这篇文章：https://www.cnblogs.com/lindaxin/p/7977406.html我这里主要是记录了一下pytorch中关于Embedding的一些自我理解。首先是导入包importtorchimporttorch.nnasnnfromtorch.autogradimportVariable然后定义你的数据word_to_i
永远的小白虾·2020-09-16 23:25

pytorch学习笔记（一）

fromfutureimportprint_function#必须放在程序开头importtorchx=torch.empty(5,3)#创建未初始化矩阵print(x)x=torch.rand(5,3)#创建一个随机初始化矩阵print(x)构造一个填满0且数据类型为long的矩阵x=torch.zeros(5,3,dtype=torch.long)print(x)直接从数据构造张量x=torc
欧巴沙琪玛·2020-09-14 23:56

pytorch学习笔记卷积神经网络

以全连接层为基础的深度神经网络DNN是整个深度学习的基石。要说应用最广、影响最大的深度神经网络，那就是卷积神经网络（ConvolutionalNeuralNetwork，CNN）。卷积神经网络虽然发布的时间较早，但直到2006年Hilton解决深度神经网络的训练问题后才焕发生机。卷积神经网络现在几乎是图像识别研究的标配。简单回顾卷积神经网络的发展历程。日本科学家福岛邦彦在1986年提出了Neoco
刹那永恒HB·2020-09-14 23:36

PyTorch学习笔记-3.PyTorch模型搭建

3.PyTorch模型搭建3.1.卷积层3.1.1.卷积-1d/2d/3d卷积运算：卷积核在输入信号（图像）上滑动，相应位置上进行乘加卷积核：又称为滤波器，过滤器，可认为是某种模式，某种特征。卷积过程类似于用一个模版去图像上寻找与它相似的区域，与卷积核模式越相似，激活值越高，从而实现特征提取例如：AlexNet卷积核可视化，发现卷积核学习到的是边缘，条纹，色彩这一些细节模式卷积维度：一般情况下，卷
ruoqi23·2020-09-14 15:40

pytorch学习笔记——基础知识

推荐一个入门学习的地址https://github.com/bharathgs/Awesome-pytorch-listpyTorchdoc:https://pytorch.org/docs/stable/index.htmlanaconda安装pytorch(supportcuda)pipinstalltorch==1.1.0-fhttps://download.pytorch.org/whl/
hehehetanchaow·2020-09-14 14:29

pytorch学习笔记（四十）：目标检测与锚框

文章目录1.目标检测2.边界框3.锚框3.1生成多个锚框3.2交并比3.3标注训练集的锚框3.4输出预测边界框1.目标检测在图像分类任务里，我们假设图像里只有一个主体目标，并关注如何识别该目标的类别。然而，很多时候图像里有多个我们感兴趣的目标，我们不仅想知道它们的类别，还想得到它们在图像中的具体位置。在计算机视觉里，我们将这类任务称为目标检测（objectdetection）或物体检测。目标检测在
逐梦er·2020-09-14 07:43

pytorch学习笔记（三十九）：Fine-Tuning

文章目录微调1.热狗识别2.获取数据集3.定义和初始化模型4.微调模型微调假设我们想从图像中识别出不同种类的椅子，然后将购买链接推荐给用户。一种可能的方法是先找出100种常见的椅子，为每种椅子拍摄1,000张不同角度的图像，然后在收集到的图像数据集上训练一个分类模型。这个椅子数据集虽然可能比Fashion-MNIST数据集要庞大，但样本数仍然不及ImageNet数据集中样本数的十分之一。这可能会导
逐梦er·2020-09-14 07:43

pytorch学习笔记2：GPU加速测试，含代码（亲测可用）

GPU加速原理这里默认你说的gpu加速是指NVIDIA的cuda加速，CPU是中央处理单元，gpu是图形处理单元简单的说，gpu由上千个流处理器(core)作为运算器。执行采用单指令多线程(SIMT)模式。在训练网络中，其实大量的运算资源都消耗在了数值计算上面，大部分网络训练的过程都是1.计算loss，2.根据loss求梯度，3.再根据梯度更新参数（梯度下降原理）。无论在GPU还是CPU中，都是不
跟着小冶一起干·2020-09-13 10:00

PyTorch学习笔记01: PyTorch基本概念

PyTorch学习笔记01:PyTorch基本概念张量的简介和创建张量的概念张量的创建直接创建张量依数值创建张量依概率创建张量的操作张量的形态变换拼接与切分张量索引形状变换张量的数学运算计算图与autograde
ncepu_Chen·2020-09-13 02:43

pytorch学习笔记（1）-从创建Tensor开始

文章目录创建Tensor1.基本创建2.创建特殊值3.创建随机值和特定序列Tensor4.Numpy转Tensor5.Tensor转Numpy创建Tensorpytorch学习的最基础的学习就从创建张量开始。1.基本创建importtorch#根据值创建a=torch.Tensor([[1,2],[3,4]])print(a)#根据形状创建，随机初始b=torch.Tensor(2,2)print
USTC_SC·2020-09-13 01:48

PyTorch学习笔记——Tensor张量的数据类型的转化、Tensor常见的数据类型、快速创建Tensor

PyTorch学习笔记——Tensor张量的数据类型的转化、Tensor常见的数据类型、快速创建TensorTensor类型与numpy类型、list类型数据的相互转化pytorch中Tensor的数据类型
Yale曼陀罗·2020-09-12 04:56

Pytorch学习笔记(持续更新中...)

1.如果你在学习Pytorch,在练习MNIST识别的时候大概率会遇到一句_,predicted=torch.max(outputs.data,1)爱思考的你一定会注意到"_"这个变量，首先告诉大家：_代表max这个函数的返回值有2两个，但是第一个返回值，我们不需要，所以用_来接收，相当于忽略掉它，后面的也不会用到，但是返回几个本来都要接收，否则会报错，你也可以随便用一个变量来接收，后面不用它就是
Cassie_pyLu·2020-09-11 23:48

pytorch学习笔记：pytorch 中tensor在CPU和GPU之间转换，以及numpy之间的转换

1.CPUtensor转GPUtensor：cpu_imgs.cuda()2.GPUtensor转CPUtensor：gpu_imgs.cpu()3.numpy转为CPUtensor：torch.from_numpy(imgs)4.CPUtensor转为numpy数据：cpu_imgs.numpy()5.note：GPUtensor不能直接转为numpy数组，必须先转到CPUtensor。6.如果
Dojanro·2020-09-11 21:05

pytorch学习笔记：模型创建及权重初始化

1、模型创建1.1、构建网络层（子模块）1.2、拼接网络层（子模块）1.3、nn.Module首先进行了8个有序字典的初始化，用来管理各个参数及网络设置一个module可以包含多个子module一个module相当于一个运算，必须实现forward（）函数每个module都有8个字典管理它的数学1.4模型容器1.4.1、nn.Sequetial功能：按顺序组合网络子模块，自带forward（），通
小杰.·2020-09-10 20:36

Pytorch学习笔记

此文为学习"莫烦Python"的Pytorch笔记2.2Variable变量神经网络中的参数都是变量的形式,参数的更新是以Variable为基础的;Variable需要从torch.autograd导入.;误差传播是根据Variable搭建的图来进行计算的,require_grad=True才计算变量节点的梯度.tensor无法反向传播,Variable才可以反向传播.importtorchfro
小灿还很菜但是学习得认真呀·2020-09-10 17:14

pytorch学习笔记十四：自动微分机制(backward、torch.autograd.grad)

一、前言神经网络通常依赖反向传播求梯度来更新网络参数，求梯度过程通常是一件非常复杂而容易出错的事情。而深度学习框架可以帮助我们自动地完成这种求梯度运算。Pytorch一般通过反向传播backward方法实现这种求梯度计算。该方法求得的梯度将存在对应自变量张量的grad属性下。除此之外，也能够调用torch.autograd.grad函数来实现求梯度计算。这就是Pytorch的自动微分机制。二、利用
万能的小黑Alex·2020-09-10 16:01

pytorch学习笔记（二）

文章目录搭建第一个神经网络Module模块基本属性Sequentialminist数据集手写数字识别网络搭建网络框图基本方法介绍数据集的加载优化器与损失训练与结果输出搭建第一个神经网络Module模块模块（Module）是所有神经网络模型的基类，新建的网络应该继承于它。基本属性Moudle可以用add_module(name,module)添加模块；apply(function)将function
UESTC_liuxin·2020-09-10 15:55

pytorch学习笔记十六：torch.optim.lr_scheduler动态调整学习率

有几篇文章总结的很全面，将其贴出来：传送门：pytorch中的学习率调整函数torch.optim.lr_scheduler：调整学习率pytorch优化器学习率调整策略以及正确用法
万能的小黑Alex·2020-09-10 10:18

pytorch学习笔记十五：查看模型的层(子模块)的几种方式

首先我们先搭建一个模型：importtorchfromtorchimportnnimporttorch.nn.functionalasFclassNet(nn.Module):def__init__(self):super(Net,self).__init__()self.embedding=nn.Embedding(num_embeddings=10000,embedding_dim=3,pad
万能的小黑Alex·2020-09-10 10:18

Pytorch学习笔记三深度神经网络DNN

GeoffreyHinton提出了一种名为“深度信念网络”的神经网络，可以使用“贪婪逐层预训练”的策略有效地进行神经网络的训练。紧接着，这种方法在其他神经网络的训练上也取得了成功。在诸如图像识别、语音识别等领域，这些新型的神经网络取得了令人瞩目的成绩，标志着机器学习一个全新时代的到来。这些新型的神经网络统称为深度学习，因为这些神经网络的模型可以有多个隐含层。深度学习主要包括深度神经网络DNN、卷积
刹那永恒HB·2020-09-04 22:35

PyTorch学习笔记——线性回归实验

PyTorch学习笔记线性回归1Tensor部分1.1包引用和实验数据1.2手动训练模型2Autograd部分线性回归线性回归利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的，表达形式为
问尔·2020-09-02 19:20

pytorch学习笔记（十一）：fine-tune 预训练的模型

torchvision中包含了很多预训练好的模型，这样就使得fine-tune非常容易。本文主要介绍如何fine-tunetorchvision中预训练好的模型。安装pipinstalltorchvision如何fine-tune以resnet18为例：fromtorchvisionimportmodelsfromtorchimportnnfromtorchimportoptimresnet_mo
ke1th·2020-08-26 14:30

PyTorch学习笔记（五）TensorBoard可视化

EnvironmentOS:macOSMojavePythonversion:3.7PyTorchversion:1.4.0IDE:PyCharm文章目录0.写在前面1.add_graph方法2.add_scalar和add_scalars方法3.add_histogram方法4.add_image方法0.写在前面TensorBoard是TensorFlow中常用的可视化工具。从1.1版本开始，P
longrootchen·2020-08-26 13:17

Pytorch学习笔记一

本文为根据官方文档做的入门学习笔记Tensors（张量）张量就像python中的ndarrays，又可以用于GPU加速计算。#uninitializedmatrixx=torch.empty(5,3)print(x)tensor([[1.0880e-19,1.0874e-19,2.5443e+30],[9.4727e+21,2.4835e+27,2.5428e+30],[1.0877e-19,1.
Channel_R·2020-08-25 15:09

Pytorch学习笔记之入门实战从Numpy到pytorch（一）

Pytorch学习笔记之入门实战（一）本文从用Numpy实现两层神经网络到一步步由pytorch实现。目的：只有体验过没有深度学习框架的难处，才能明白它的好！！！
GTFQAQ·2020-08-25 15:46

PyTorch学习笔记(六) ---- 数据加载和处理

转载请注明作者和出处：http://blog.csdn.net/john_bh/文章目录1.准备处理数据的工具包2.准备数据3.读取数据集4.可视化图像和标注信息5.建立数据集类6.数据可视化7.数据变换8.迭代数据集9.torchvision包1.准备处理数据的工具包scikit-image：用于图像的IO和变换pandas：用于更容易地进行csv解析importos,torchimportpa
john_bh·2020-08-23 06:59

PyTorch学习笔记-1.PyTorch基础概念

1.PyTorch基础概念1.1.PyTorch简介与安装1.1.1.PyTorch简介2017年1月，FAIR（FacebookAIResearch）发布PyTorchPyTorch是在Torch基础上用python语言重新打造的一款深度学习框架Torch是采用Lua语言为接口的机器学习框架，但因Lua语言较为小众，导致Torch知名度不高PyTorch发展•2017年1月正式发布PyTorch
ruoqi23·2020-08-22 03:41

PyTorch学习笔记-7.PyTorch训练技巧

7.PyTorch训练技巧7.1.模型保存与加载保存：torch.save主要参数：•obj：对象•f：输出路径保存分为两种模式：1:保存整个Module，即保存了整个模型的框架和参数torch.save(net,path)2:保存模型参数，即只保存模型的参数，下次使用时需要自己重新构建框架state_dict=net.state_dict()torch.save(state_dict,path)
ruoqi23·2020-08-22 03:11

Pytorch学习笔记-LSTM

目录1.LSTM原理1.1RecurrentNeuralNetwork1.2LSTMNetwork1.3TheCoreIdeaBehindLSTMs1.4三个门控开关1.4.1LSTM：Forgetgate1.4.2LSTM：InputgateandCellstate1.4.3LSTM：Outputgate1.5LSTM如何解决梯度消失2.LSTMLayer使用2.1nn.LSTM2.1nn.LS
燥栋·2020-08-20 17:40

Pytorch学习笔记(6) Pytorch模型以及相关参数的保存与加载

当模型训练完成或者训练到一半，我们需要将模型保存。这里介绍如何保存模型的参数以及其他信息。当需要使用的使用如何加载。一、模型的保存与加载利用PyTorch可以进行模型的保存和加载，主要有以下两种方式。方法1:保存于加载整个模型model=MyModel()Path="my_params,pkl"#保存模型torch.save(model,Path)#加载模型model=torch.load(Pat
银色尘埃010·2020-08-20 09:58

Pytorch学习笔记【20】：batch_normalization（批标准化）

1.什么叫做批标准化呢？简单来说就是将数据有效的控制在一个范围内，这样神经网络才能更好的学习它，具体不做阐述，感兴趣的读者可以去查查资料哦，本篇代码主要对比使用批标准化和不使用两种情况。2.代码importtorchfromtorchimportnnfromtorch.nnimportinitimporttorch.utils.dataasDataimportmatplotlib.pyplotas
strong tyj·2020-08-19 19:50

pytorch学习笔记__TRAINING A CLASSIFIER

pytorch学习笔记__TRAININGACLASSIFIERhttps://pytorch.org/tutorials/beginner/blitz/cifar10_tutorial.html主要是把官网模型训练精度提上去练练手
crazyfatLisa·2020-08-19 17:45

Pytorch学习笔记【7】：快速搭建神经网络，神经网络的保存与加载

还是老话，注意看代码注释，解析都在注释里一.快速搭建神经网络1.代码importtorchimporttorch.nn.functionalasF"""此段代码主要诠释了如何快速搭建神经网络以及两种搭建方法的输出比较，我们可以看到输出略有不同，但是两种方式搭建的神经网络的效果是一模一样的。"""classNet(torch.nn.Module):def__init__(self,n_feature
strong tyj·2020-08-19 03:08
上一页 12 13 14 15 16 17 18 19 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他