迁移学习resnet

从零构建深度学习推理框架-11 Resnet

op和layer结构在runtime_ir.cpp中，我们上一节只构建了input和output，对于中间layer的具体实现一直没有完成：for(constauto&kOperator:this->operators_){if(kOperator->type=="pnnx.Input"){this->input_operators_maps_.insert({kOperator->name,kO
库达ZT·2023-08-31 07:16

UserWarning: The parameter ‘pretrained‘ is deprecated since 0.13 and will be removed in 0.15, please

解决办法：fromtorchvision.modelsimportresnet18,ResNet18_Weights#使用预训练的ResNet18作为特征提取器self.
壹柒伍_·2023-08-31 02:12

为什么深度网络（vgg，resnet）最后都不使用softmax（概率归一）函数，而是直接加fc层？

这个问题很简单，并不是没有使用softmax，而是没有显式使用softmax。随着深度学习框架的发展，为了更好的性能，部分框架选择了在使用交叉熵损失函数时默认加上softmax，这样无论你的输出层是什么，只要用了nn.CrossEntropyLoss就默认加上了softmax。不仅是Pytorch，国内的飞桨PaddlePaddle2.0等框架也是这样。但在更早的一些版本，默认是不隐式添加soft
壹柒伍_·2023-08-31 02:11

利用深度蛋白质序列嵌入方法通过 Siamese neural network 对 virus-host PPIs 进行精准预测【Patterns，2022】

传统实验方法费时费力、计算方法要么基于蛋白结构或基因，要么基于手动特征工程的机器学习）；DL在PPIs预测中的应用愈加广泛，包括特征嵌入、autoencoder、LSTM等，而最近几年基于NLP领域的一些基于迁移学习的方法
@ZyuanZhang·2023-08-29 19:15

经典卷积网络

目录一、经典神经网络出现的时间线编辑二、LeNet三、AlexNet四、VGGNet五、InceptionNet六、ResNet总结：一、经典神经网络出现的时间线二、LeNet背景：LeNet由YannLeCun
孤狼灬笑·2023-08-29 17:36

单发多框检测（SSD）【动手学深度学习】

基本网络用于从输入图像中提取特征，可以使用深度卷积神经网络，原论文中选用了在分类层之前阶段的VGG，现在也常用ResNet替代。
东城青年·2023-08-29 13:25

ResNet详解：网络结构解读与PyTorch实现教程

目录一、深度残差网络（DeepResidualNetworks）简介深度学习与网络深度的挑战残差学习的提出为什么ResNet有效？二、深度学习与梯度消失问题梯度消失问题定义为什么会出现梯度消失？
TechLead KrisChang·2023-08-29 10:10

2019-03-18机器学习——梯度消失和爆炸

解决方法：BN，ResNet，权重正则（爆炸），换激活函数
hhhhlyy·2023-08-29 05:56

YoloV8改进策略：将ConvNextV2与YoloV8激情碰撞，能迸发出什么样的火花呢？

文章目录摘要论文翻译摘要1简介2相关工作3全卷积掩码自编码器4全局响应归一化5ImageNet实验6迁移学习实验7结论ConvNextV2Block改进方法
静静AI学堂·2023-08-28 22:56

TSM，TRN 神经网络模型解析附代码

TSM提出了一种可以基于现存的网络模型（Resnet）加入temporalshiftmodule的方法例如基于resnet50的改进办法：首先得到resnet50的网络模型，在每个残差块的第一卷积之前，
牛奶还是纯的好·2023-08-28 20:37

图像分类学习笔记（六）——ResNeXt

一、要点ResNeXt是ResNet的小幅升级，更新了block左边（ResNet的block/50/101/152层）：对于输入通道为256的特征矩阵，首先使用64个1×1的卷积核进行降维，再通过64
小乖路路通·2023-08-28 12:20

Resnet34 on ImageNet 实验记录

loadpretrainmodelacc=一、--trainann_epochs10\--L7\--batchsize256\--presim_len8\--sim_len32\--lr0.0002\--wd1e-5\--direct_training\result：0:64.461:65.402:66.6783:68.2824:68.4325:69.1486:69.0867.69.648.69.
Codiplay·2023-08-28 07:20

nlp大模型课程笔记

自然语言处理基础和应用说明之前的大模型其实有很多都是基于迁移学习的方法。attention机制的总结，解决了信息瓶颈的问题。
菜菜小堡·2023-08-27 08:23

基于Keras的inception_v3猫狗识别迁移学习

话不多说，直接上代码；#1-加载数据fromkeras.applications.inception_v3importpreprocess_inputfromkeras.preprocessing.imageimportImageDataGeneratorIMSIZE=299validation_generator=ImageDataGenerator(preprocessing_function
人工智能教学实践·2023-08-27 07:33

Resnet模型详解

1、Resnet是什么？Resnet是一种深度神经网络架构，被广泛用于计算机视觉任务，特别是图像分类。它是由微软研究院的研究员于2015年提出的，是深度学习领域的重要里程碑之一。
夏天是冰红茶·2023-08-27 02:12

5.从头跑一个pipeline

在这个库中，可以找到许多常用的卷积神经网络模型，包括ResNet、VGG、AlexNet等，以及它们的不同变体，如resnet50、vgg16等2.准备模型1.导出res
qq_38196982·2023-08-27 01:31

ResNet 模型原理

ResNet与Vgg的主要区别：1.ResNet相较于Vgg具有更加深的网络结构2.ResNet相较于Vgg引入了残差连接的结构3.ResNet引入了BatchNorm层，使得ResNet能够训练更加深的网络结构
ZhangJiQun&MXP·2023-08-26 15:25

无脑007--Yolov7推理测试

此次项目是为了下一个项目做准备，打算学习一下docker和迁移学习的技术。
吃肉不能购·2023-08-26 07:01

向量检索：基于ResNet预训练模型构建以图搜图系统

目录1项目背景介绍2关键技术介绍2.1Resnet网络2.2Milvus向量数据库3系统代码实现3.1运行环境构建3.2数据集下载3.3预训练模型下载3.4代码实现3.4.1创建Milvus表和索引3.4.2
智慧医疗探索者·2023-08-26 06:48

tensorflow 中batch normalize 的使用

但是最近在调slim中的resnet的时候，发现训练集有很高的accuracy（如90%），但是测试集的accuracy还是很低（如0%，1%），这肯定不是由于欠拟合或者过拟合导致的。
LanWong·2023-08-25 20:50

第60步 深度学习图像识别：误判病例分析（Pytorch）

基于WIN10的64位系统演示一、写在前面上期内容基于Tensorflow环境做了误判病例分析（传送门），考虑到不少模型在Tensorflow环境没有迁移学习的预训练模型，因此有必要在Pytorch环境也搞搞误判病例分析
Jet4505·2023-08-25 14:35

剪枝基础与实战(1): 概述

论文:LearningEfficientConvolutionalNetworksthroughNetworkSlimming作者对VGG、DenseNet、ResNet进行剪枝，发现模型剪
@BangBang·2023-08-25 14:22

机器学习之ResNet（残差网络）与常用的标准数据集

ResNet（ResidualNetwork）是一种深度神经网络，由微软实验室的何凯明等几位大神在2015年提出，并在当年的ImageNet竞赛中获得了分类任务第一名。
奋进的大脑袋·2023-08-25 12:46

yolov3加上迁移学习和适度的数据增强形成的网络应用在输电线异物检测

NeuralDetectionofForeignObjectsforTransmissionLinesinPowerSystemsAbstract.输电线路为电能从一个地方输送到另一个地方提供了一条路径，确保输电线路的正常运行是向城市和企业供电的先决条件。主要威胁来自外来物，可能导致电力传输中断。传统的人工检测方法不仅耗费大量人力，而且影响电网的安全和效率，因此本文提出了一种基于神经网络的输电线路
羞儿·2023-08-25 09:29

VIT 论文精读 | transformer架构引入CV的开创性工作

patch2.2transformer和卷积网络比较2.3结构2.4clsVs全局平均池化2.5位置编码3实验1.背景VIT是基于transformer的在图像分类大放异彩的变体，transformer是VIT的亲爹，可以和resnet
Qodi·2023-08-25 09:47

ViT笔记

获得预训练之后再做迁移学习到小数据集
博观而约取,厚积而薄发·2023-08-24 22:27

FCOS 代码 （train过程）

2014_trainDATASETS:TRAIN:("coco_2014_train","coco_2014_valminusminival")TEST:("coco_2014_minival",) 以及ResNet
匿名的魔术师·2023-08-24 20:20

论文笔记-粗读-8.22~8.29

最终将20层的ResNet修剪至18层，同时精度由92.25%提升至92.60%。f
ywsdxxzj·2023-08-24 20:16

Pytorch-day09-模型微调-checkpoint

模型微调（fine-tune)-迁移学习torchvision微调timm微调半精度训练起源：1、随着深度学习的发展，模型的参数越来越大，许多开源模型都是在较大数据集上进行训练的，比如Imagenet-
闪闪发亮的小星星·2023-08-24 11:26

机器学习导论--2.机器学习业务基础及架构详解

包括前面的误差)5.总结要掌握的概念6.概念学习7.几个重要概念的理解8.分类和回归问题9.初识机器学习分类10.机器学习处理问题步骤框架二.机器学习分类1.监督学习2.非监督学习3.半监督学习4.强化学习5.迁移学习
溯水襄陵_·2023-08-24 07:24

OnnxRuntime部署SwinTransformer

一、概述实测SwinTransformer真的是涨点神器，刷榜秘籍，用SwinTransformer作为模型主干网络来微调下游任务对比ResNet50保守能够带来2~5个点的提升，当然模型参数量是大了点
RunningJiang·2023-08-24 04:31

【Image captioning】自用数据集预处理并提取Resnet特征

自用数据集预处理并提取Resnet特征作者：安静到无声个人主页目录自用数据集预处理并提取Resnet特征将uic_coco.json转换为uictalk.json和uictalk_label.h5Resnet
安静到无声·2023-08-23 21:49

计算机视觉 -- 图像分割

deconv2.3Unpool2.4拓展–DeconvNet3.实例分割3.1实例分割--MaskR-CNN3.2MaskR-CNN3.3FasterR-CNN与MaskR-CNN3.4MaskR-CNN：Resnet1013.5
@kc++·2023-08-23 20:39

【Python机器学习】实验16 卷积、下采样、经典卷积网络

文章目录卷积、下采样、经典卷积网络1.对图像进行卷积处理2.池化3.VGGNET4.采用预训练的Resnet实现猫狗识别TensorFlow2.2基本应用5.使用深度学习进行手写数字识别卷积、下采样、经典卷积网络
Want595·2023-08-23 17:31

机器学习之常用的神经网络技术

常见的CNN架构包括LeNet、AlexNet、VGG、ResNet、Inception、MobileNet和YOLO等。
奋进的大脑袋·2023-08-23 15:53

SIMCLR V2论文整理

本文提出的方法包括三部分1）使用SIMCLRv2对一个大型的resnet网络进行无监督预训练学习，2）在少量有标签数据上进行监督调参，3）在无标签数据上进行蒸馏以精炼模型并迁移特定任务的知识。
赵小闹闹·2023-08-23 13:00

机器学习笔记 - 使用 ResNet-50 和余弦相似度的基于图像的推荐系统

一、简述这里的代码主要是基于图像的推荐系统，该系统利用ResNet-50深度学习模型作为特征提取器，并采用余弦相似度来查找给定输入图像的最相似嵌入。
坐望云起·2023-08-22 21:23

ResNet 残差网络

一、引言由于深度学习的广泛应用，出现了一个新问题：训练一个更好的网络是否和堆叠更多的层一样简单呢？解决这一问题的障碍便是困扰人们很久的梯度消失/梯度爆炸，这从一开始便阻碍了模型的收敛。归一初始化（normalizedinitialization）和中间归一化（intermediatenormalization）在很大程度上解决了这一问题，它使得数十层的网络在反向传播的随机梯度下降（SGD）上能够收
大豆油·2023-08-22 12:33

CLIP论文精度

CLIP论文精度Zero-shotCLIP多模态模型ImageEndecoder是一个图片编码器，既可以是ResNet,也可以是VisionTransformer.TextEncoder和ImageEncoder
Cheny1m·2023-08-22 12:04

卷积神经网络——下篇【深度学习】【PyTorch】

文章目录5、卷积神经网络5.10、⭐批量归一化5.10.1、理论部分5.10.2、代码部分5.11、⭐残差网络（`ResNet`）5.11.1、理论部分5.11.2、代码部分话题闲谈5、卷积神经网络5.10
来杯Sherry·2023-08-22 11:16

大数据、人工智能、机器学习、深度学习关系联系前言

1.大数据和人工智能关系2.机器学习、深度学习、人工智能关系3.监督学习、无监督学习、半监督学习、强化学习、迁移学习关系4.机器学习具体内容一、大数据和人工智能之间存在相促进并相互支持，推动了科技发展1
Studying 开龙wu·2023-08-22 09:44

多模态之情感预测 涉及 BERT， RoBERTa， XLNet， XLM， DistilBERT 架构

情感预测之Fastai结合HuggingFaceTransformers（一）NLP中的迁移学习1.NLP2.迁移学习（二）将tramsformers与fastai集成以实现多类分类1.库安装2.示例任务
便签棒糖·2023-08-22 05:17

Pytorch-day09-模型微调-checkpoint

模型微调（fine-tune)-迁移学习torchvision微调timm微调半精度训练起源：1、随着深度学习的发展，模型的参数越来越大，许多开源模型都是在较大数据集上进行训练的，比如Imagenet-
闪闪发亮的小星星·2023-08-22 01:55

生成迁移学习 (Generative Transfer Le

蚂蚁集团产品经理实习环境靠着西湖，空气非常清新在蚂蚁集团产品经理实习已经两周啦，给大家share这里的情况。公司环境：背靠西湖风景区，天然氧吧，但是蚊子也很多，这一点特别不友好；园区特别好看，空气非常清新，题解|#字符串排序#importjava.util.Scanner;importjava.util.TreeMap;importjava.util.TreeSet;impor题解|#删除字符串中
2301_79125642·2023-08-22 00:02

Pytorch训练Resnet101，显存爆炸

最近需要把caffe上的resnet101网络模型迁移到pytorch上，caffe上显存还够使，一到pytorch上就不够用了，即使是resnet50也不够用。
逆风g·2023-08-21 16:13

大模型PEFT技术原理（二）：P-Tuning、P-Tuning v2

随着预训练模型的参数越来越大，尤其是175B参数大小的GPT3发布以来，让很多中小公司和个人研究员对于大模型的全量微调望而却步，近年来研究者们提出了各种各样的参数高效迁移学习方法（Parameter-efficientTransferLearning
wshzd·2023-08-21 09:39

大模型PEFT技术原理（三）：Adapter Tuning及其变体

随着预训练模型的参数越来越大，尤其是175B参数大小的GPT3发布以来，让很多中小公司和个人研究员对于大模型的全量微调望而却步，近年来研究者们提出了各种各样的参数高效迁移学习方法（Parameter-efficientTransferLearning
wshzd·2023-08-21 09:09

06有监督学习——迁移学习

1.迁移学习分类（1）基于实例的迁移学习方法：假设:源域中的一些数据和目标域会共享很多共同的特征方法:对源域进行instancereweighting，筛选出与目标域数据相似度高的数据，然后进行训练学习
Tiny_G·2023-08-21 08:45

深度学习|自监督学习、MAE学习策略、消融实验

自监督学习、MAE学习策略、消融实验自监督学习MAE学习策略消融实验自监督学习Pretrain-Finetune（预训练+精调）模式：迁移学习，通过在源域数据上学习知识，再迁移到下游其他目标任务上，提升目标任务上的效果
魔法自动机·2023-08-20 18:17

（论文总结）SmallBigNet Integrating Core and Contextual Views for Video Classification

传统的方法存在的问题1、普通的3×1×1卷积对上下文的处理情况2、缺乏综合理解能力且参数量大3、缺乏长范围时序特征的学习能力二、本文的改进1、更好的处理、结合上下文信息2、网络结构：SmallBig-ResNet
10生万物·2023-08-19 19:33
上一页 14 15 16 17 18 19 20 21 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他