深入浅出PyTorch 第7页

【优化器】(三) RMSProp原理 & pytorch代码解析

1.简介在上一篇文章里，我们介绍了AdaGrad，引入了二阶动量来调整不同参数的学习速率，同时它的缺点就是不断地累加二阶动量导致最终学习率会接近于0导致训练提前终止，RMSProp主要针对这个问题进行了优化。2.RMSPropAdaGrad的二阶动量计算公式为其中，为当前时刻的二阶动量，是某一时刻的梯度，表示迄今所有梯度的平方和。问题就在于这个求和上，不断地累加导致学习率为0。RMSProp在Ad

Lcm_Tech·2024-02-20 18:30

Pytorch-RMSprop算法解析

肆十二·2024-02-20 18:59

暴力枚举刷题3

题目来源：[NOIP2002普及组]选数-洛谷参考书目：参考书籍：《深入浅出程序设计竞赛（基础篇）》解题思路：通过位运算来枚举数组a的所有子集，然后检查每个恰好包含k个元素的子集的元素和是否为质数。

Sking426·2024-02-20 17:45

暴力枚举刷题2

题目来源：烤鸡-洛谷参考书目：参考书籍：《深入浅出程序设计竞赛（基础篇）》解题思路：这道题可以用暴力枚举的方法解决，用10层for循环，再if判断就能找到所有符合的情况。

Sking426·2024-02-20 17:14

暴力枚举刷题1

题目来源：统计方形（数据加强版）-洛谷参考书籍：《深入浅出程序设计竞赛（基础篇）》解题思路：这道理适合用暴力枚举求解。我把书上提到的四种枚举方法分享给大家。

Sking426·2024-02-20 17:11

【深度学习】Pytorch 系列教程（三）：PyTorch数据结构：2、张量的数学运算（1）：向量运算（加减乘除、数乘、内积、外积、范数、广播机制）

文章目录一、前言二、实验环境三、PyTorch数据结构0、分类1、Tensor（张量）1.维度（Dimensions）2.数据类型（DataTypes）3.GPU加速（GPUAcceleration）2

QomolangmaH·2024-02-20 16:47

JAVA高并发——JDK的并发容器

文章目录1、超好用的工具类：并发集合简介2、线程安全的HashMap3、深入浅出ConcurrentHashMap3.1、ConcurrentHashMap的内部数据结构3.2、put()方法的实现3.3

布道师小羊·2024-02-20 16:39

Pytorch学习记录-接近人类水平的GEC（使用混合机器翻译模型）

五月第二周要结束了，接下来的三个月主要是文献阅读，准备8、9月的开题报告，技术类的文献集中在GEC和Textmaching的应用方面，读完之后找demo复现，然后应用。理论方面的论文也都是英文的8.NearHuman-LevelPerformanceinGrammaticalErrorCorrectionwithHybridMachineTranslation昨天一天没看论文，发现我文献阅读速度太

我的昵称违规了·2024-02-20 16:04

Deep Learning with OpenCV DNN Module介绍

2.1支持的不同深度学习功能2.2支持的不同模型2.3支持的不同框架3.如何使用OpenCVDNN模块3.1使用从Keras和PyTorch等不同框架转换为ONNX格式的模型3.2使用OpenCVDNN

lida2003·2024-02-20 16:18

MIT-BEVFusion系列八--onnx导出1 综述及相机网络导出

目录综述export-camera.py加载模型加载数据生成需要导出成onnx的模块Backbone模块VTransform模块生成onnx使用pytorch原生的伪量化计算方法导出camera.backbone.onnx

端木的AI探索屋·2024-02-20 14:25

深入浅出 spring-data-elasticsearch 之 ElasticSearch 架构初探（一）

本文目录一、Elasticsearch基本术语1.1文档(Document)、索引(Index)、类型(Type)文档三要素1.2集群(Cluster)、节点(Node)、分片(Shard)分布式三要素二、Elasticsearch工作原理2.1文档存储的路由2.2如何健康检查2.3如何水平扩容三、小结欢迎来SpringForAll,和我探讨Spring相关的分享。http://spring4al

Julian Wong·2024-02-20 13:04

【踩坑系列记录】Anaconda环境将torch由cpu换成gpu

这段时间开始做深度学习的项目，于是用Anaconda给项目创建了一个环境，其他的环境配置很顺利，就是到了安装pytorch时，我用pytorch官网的代码一直下载的是cpu版本。

RoyZz_·2024-02-20 13:37

深入浅出Spring Cloud Netflix - Ribbon

文章目录一、负载均衡1.LoadBalance是什么2.负载均衡的分类二、Ribbon详解1.什么是Ribbon2.Ribbon目前进入维护模式3.Ribbon的工作流程4.Ribbon内置的负载均衡策略5.Ribbon负载规则替换（1）新建一个MySelfRule类（2）主启动添加@RibbonClient注解5.RoundRobinRule源码分析（1）域定义和构造器（2）负载均衡核心方法：c

贫僧洗发爱飘柔·2024-02-20 12:49

深入浅出JVM（一）之Hotspot虚拟机中的对象

本篇文章思维导图对象的创建对象的创建可以分为五个步骤:检查类加载,分配内存,初始化零值,设置对象头,执行实例构造器类加载检查HotSpot虚拟机遇到一条new指令,会先检查能否在常量池中定位到这个类的符号引用,检查这个类是否类加载过没有类加载过就去类加载类加载过就进行下一步分配内存分配内存对象所需的内存在类加载完成后就可以完全确定分配内存方式虚拟机在堆上为新对象分配内存,有两种内存分配的方式:指针

·2024-02-20 12:31

深入浅出理解数据的序列化和反序列化

一般来说，数据的处理有两种类型。一种是在内存中，比如我们常见的结构体，list，数组等等。而另外一种就是把数据写到文件中或者在网络中进行传输，这个时候的数据传输说白了就是比特流，那么接受方如何解析这些接收到的比特流呢？这个时候就需要对数据进行序列化，把相应的数据转化成可以自解释比特流。然后接收方就可以通过反序列化的方法把这些比特流再转化成相应的结构体等等类型。各种语言自带的格式很多语言都有自带的序

gordon1986·2024-02-20 11:45

金刚经

其义理深入浅出，无论是初学者，还是有一定境界的人，对《金刚经》中的般若智慧，都欢喜不已，都会如法受持。《金刚经》也称《金刚般若波罗蜜经》，是般若部经中的无上妙法，以其经中充满般若智慧而闻名。

悟心太阳·2024-02-20 09:08

深度学习主流开源框架：Caffe、TensorFlow、Pytorch、Theano、Keras、MXNet、Chainer

深度学习主流开源框架表2.1深度学习主流框架参数对比框架关键词总结框架关键词基本数据结构（都是高维数组）Caffe“在工业中应用较为广泛”，“编译安装麻烦一点”BlobTensorFlow“安装简单pip”TensorPytorch

seasonsyy·2024-02-20 09:50

从代码的层面掌握LLM的路线

原则：从易到难，只用pytorch从第一个项目来熟悉transformer的使用；从第二个项目来掌握对训练数据的使用方法及transformer的decoder的细节；从第三个项目来理解LLM的整个过程

Eloudy·2024-02-20 08:41

pytorch tensor合并与分割

目录1.cat2.stack3.split4.chunk1.cattorch.cat(tensors,dim=0,*,out=None)→Tensor在指定维度上，连接给定tensor序列或empty，除连接的dimension外，所有得的ensor必须有相同的shape参数：tensors-具有相同类型的tensor序列，非emptytensor必须具有相同的shape，连接的dimension

wyw0000·2024-02-20 07:43

Pytorch 配置 GPU 环境

1、Pytorch深度学习跑代码的时候，因为简单的操作不适合cpu运行，我们更习惯用GPU加速代码。

听风吹等浪起·2024-02-20 07:38

PyTorch使用Tricks：Dropout，R-Dropout和Multi-Sample Dropout等！！

文章目录1、为什么使用Dropout？2、Dropout的拓展1：R-Dropout3、Dropout的拓展2：Multi-SampleDropout4、Dropout的拓展3：DropConnect5、Dropout的拓展4：Standout6、Dropout的拓展5：GaussianDropout1、为什么使用Dropout？Dropout是一种在神经网络训练过程中用于防止过拟合的技术。在训练

JOYCE_Leo16·2024-02-20 07:04

【PyTorch][chapter 16][李宏毅深度学习][Neighbor Embedding][t-SNE]

前言：前面LLE讲了两个点在高维空间距离相近，通过降维后也要保持这种关系但是如果两个点在高维空间距离很远（不属于K邻近）,降维后有可能叠加在一起了.t-SNE(t-DistributedStochasticNeighborEmbedding)是一种降维技术，LLE在进行降维时，都强调了降维后的相似的数据要尽可能地保持相似，但并没有说对于那些不相似的数据，要有多不相似这个问题.这就导致了在进行降维时

明朝百晓生·2024-02-20 07:33

Pytorch关于CIFAR-10测试

下载CIFAR-10数据集：官网：https://www.cs.toronto.edu/~kriz/cifar.htmlCIFAR-10的网络结构：importtorchfromtorchimportnnfromtorch.nnimportConv2d,MaxPool2d,Flatten,Linear,Sequential#定义网络结构classModel(nn.Module):def__init

月疯·2024-02-20 07:03

深度学习(16)--基于经典网络架构resnet训练图像分类模型

引入所需的工具包2.2.数据读取和预处理2.3.加载resnet152模型2.4.初始化模型2.5.设置需要更新的参数2.6.训练模块设置2.7.再次训练所有层2.8.测试网络效果三.完整代码一.项目介绍使用PyTorch

GodFishhh·2024-02-20 07:31

Pytorch的常用模块和用途说明

肆十二·2024-02-20 07:30

Pytorch-Adam算法解析

肆十二·2024-02-20 07:30

压缩感知——革新数据采集的科学魔法

本文将为你深入浅出地解释。压缩感知压缩感知(CS)与传统数据压缩的差异：传统信息论告诉我们，数据被采集后通常需要进行压缩以便于存储和传

superdont·2024-02-20 06:35

2021-09-05影响力导师班81期结课复盘

由于上周在上领导力口才，时间冲突，影响力导师班只上了9.3-5的课程，3天的时间卢志超老师教我们怎么设计和呈现课程，专业出色声音洪亮欢欣愉悦的伟岸负责的科班播音主持专业老师通过深入浅出的方式倾囊相授，3

yiyiyurou·2024-02-20 06:10

Pytorch backward报错2次访问计算图需要 retain_graph=True 的一种情况

错误代码错误的原因在于y1=0.5*x*2-1.2*xy2=x**3没有放到循环里面，没有随着x的优化而相应变化。importtorchimportnumpyasnpimporttorch.optimasoptimtorch.autograd.set_detect_anomaly(True)device=torch.device('cuda'iftorch.cuda.is_available()e

培之·2024-02-20 06:55

将pytorch中变量的梯度为 nan 的替换成 1 还是 0？

替换成0，则变量保持不动0:xtensor([1.0000,2.0000,3.0000,4.5000],device='cuda:0',requires_grad=True)0:xtensor([1.0000,2.0000,3.0000,4.5000],device='cuda:0',requires_grad=True)替换成1，变量会变化0:xtensor([1.0000,2.0000,3.0

培之·2024-02-20 06:25

torch_geometric和torch的版本匹配问题

https://pytorch-geometric.com/whl/torch-1.7.0+cu101.html测试过几类网站，只有这个是正常安装的torch版本需要跟torch_geometric版本配套

Sinsinw·2024-02-20 06:31

机器学习入门--LSTM原理与实践

本文将介绍LSTM模型的数学原理、代码实现和实验结果，并使用pytorch和sklearn的数据集进行验证。

Dr.Cup·2024-02-20 05:14

机器学习入门--循环神经网络原理与实践

本文将介绍RNN的基本数学原理、使用PyTorch和Scikit-Learn数据集实现的代码。数学原理RNN是一种带有循环结构的神经网络，其在处理序列数据时将前一次的输出作为当前输入的一部分。

Dr.Cup·2024-02-20 05:44

机器学习入门--门控循环单元(GRU)原理与实践

本文将介绍GRU的数学原理、代码实现，并通过pytorch和sklearn的数据集进行试验，最后对该模型进行总结。数学原理GRU是一种

Dr.Cup·2024-02-20 05:43

《深入浅出OCR》第八章：文档处理多模态预训练

✨专栏介绍：经过几个月的精心筹备，本作者推出全新系列《深入浅出OCR》专栏，对标最全OCR教程，具体章节如导图所示，将分别从OCR技术发展、方向、概念、算法、论文、数据集等各种角度展开详细介绍。‍

GoAI·2024-02-20 05:53

《深入浅出多模态》：智能文档处理多模态大模型总结

✨专栏介绍：本作者推出全新系列《深入浅出多模态》专栏，具体章节如导图所示（导图后续更新），将分别从各个多模态模型的概念、经典模型、创新点、论文综述、发展方向、数据集等各种角度展开详细介绍，欢迎大家关注。

GoAI·2024-02-20 05:22

【AIGC】Stable Diffusion安装包

您可以从Python官方网站下载并安装Python：https://www.python.org/downloads/安装PyTorch：StableDiffusion使用PyT

AIGCExplore·2024-02-20 02:27

学习阅读的心得体会

时老师对于阅读给我们每个人带来的深远影响做了深入浅出的点拨，让我醍醐灌顶，方如梦初醒。

宁都208何美林·2024-02-20 02:17

深入浅出Spring Bean

目录前言1.Spring生命周期1.1初始化容器1.2Bean属性注入、更改以及初始化1.3Bean的使用1.4关闭容器、销毁Bean1.5Bean的生命周期：2.Spring如何解决bean的循环依赖2.1容器循环依赖：2.2setter循环依赖2.3构造器循环依赖3.Bean的加载过程4.BeanFactory和FactoryBean的区别5.Bean注册与使用6.参考：前言本文参考大量网上博

AAAhxz·2024-02-20 02:49

深度学习之pytorch实现逻辑斯蒂回归

深度学习之pytorch实现逻辑斯蒂回归解决的问题数学公式logiatic函数损失值代码与线性回归代码的区别数据损失值构造回归的函数结果分析解决的问题logistic适用于分类问题，这里案例(y为0和1

温柔了岁月.c·2024-02-20 01:58

关于npmlink的问题

深入浅出关于Npmlinl的问题关键词：vue3报错UncaughtTypeError:Cannotreadpropertiesofnull(reading‘isCE‘)atrenderSlotnpmlink

我叫汪枫·2024-02-20 01:25

深度学习之反向传播算法

反向传播算法数学公式算法代码结果算法中一些函数的区别数学公式算法代码这里用反向传播算法，计算y=w*x模型importnumpyasnpimportmatplotlib.pyplotasply#反向传播算法，需要使用pytorch

温柔了岁月.c·2024-02-20 01:55

深入浅出熟悉OpenAI最新大作Sora文生视频大模型

蠢蠢欲动，惴惴不安，朋友们我又来了，这个春节真的过的是像过山车，Gemini1.5PRO还没过劲，OpenAI又放大招，人类真的要认输了吗，让我忍不住想要再探究竟，到底是什么让文生视频发生了质的跃迁，再次不仅止不住唏嘘，那些老板们辛辛苦苦创起来的业，恐怕又被降维打击了一波！这里主要介绍一下OpenAI的又一大作Sora，之所以不做产品体验，是目前人家还没全量开放，我们就先研究研究人家的开放内容！报

女王の专属领地·2024-02-20 01:19

深入浅出JavaScript的垃圾回收机制

一、引言在JavaScript中，内存管理是由垃圾回收器自动完成的，这意味着开发者无需手动分配和释放内存。但了解垃圾回收机制的工作原理和如何优化它，对于写出高性能且稳定的代码至关重要。二、垃圾回收器的工作原理标记清除（Mark-Sweep）算法标记阶段：从“根”对象（通常是全局对象）开始，递归访问所有可达的对象，并为它们标记为“活跃”。清除阶段：遍历整个堆内存，找出未被标记的对象（即不可达的对象）

宇宙☆空间站·2024-02-20 00:50

PyTorch-线性回归

已经进入大模微调的时代，但是学习pytorch，对后续学习rasa框架有一定帮助吧。

一个高效工作的家伙·2024-02-20 00:46

PyTorch – 逻辑回归

data首先导入torch里面专门做图形处理的一个库，torchvision，根据官方安装指南，你在安装pytorch的时候torchvision也会安装。