迁移学习

Smaller, faster, cheaper, lighter: Introducing DistilBERT, a distilled version of BERT 翻译

pdfcode:https://github.com/huggingface/transformersTime:2019.10在过去的18个月中，在过去的18个月中，几乎所有的自然语言处理任务都从大型语言模型进行迁移学习这一方式达到了
睡熊猛醒·2023-10-11 06:00

残差网络ResNet代码解读

目前ResNet是应用最广的图像相关深度学习网络，图像分类，目标检测，图片分割都使用该网络结构作为基础，另外，一些迁移学习也使用ResNet训练好的模型来提取
xieyan0811·2023-10-11 02:46

中科院发布最新迁移学习综述论文，带你全面了解40种迁移学习方法

【导读】迁移学习（TransferLearning）作为近年来的研究热点之一，受到了广泛关注，每年在各大会议上都有大量的相关文章发表。
视学算法·2023-10-10 16:15

Matlab深度学习基础笔记-3

2transferlearning要执行迁移学习，您需要创建三个组件：1.代表网络体系结构的一系列图层。对于迁移学习，这是通过修改先前存在的网络（如AlexNet）创建的。
SuperZ2017·2023-10-10 13:45

预训练语言模型fine-tuning近期进展概述

©作者｜AIBox来源｜RUCAIBox近年来，迁移学习改变了自然语言处理领域的范式，对预训练语言模型（PLM）进行微调（fine-tuning）已经成为了新的范式。
PaperWeekly·2023-10-10 12:44

随笔感悟

1）多年如一日，如饥似渴地阅读，阅读量超过常人不止60倍；2）涉猎大量不同的学科和领域，为迁移学习积累基础；3）不断把一些想法解构成基本原理，然后用心的方式重构，再加以运用。
xiaoxiaowu_娟儿·2023-10-10 04:20

YoloV8改进策略：EfficientViT，高效的视觉transformer与级联组注意力提升YoloV8的速度和精度，打造高效的YoloV8

计算效率2.3.参数效率3、高效视觉Transformer3.1.EfficientViT的构建块3.2、EfficientViT网络架构4、实验4.1.实现细节4.2.ImageNet上的结果4.3.迁移学习结果
静静AI学堂·2023-10-08 22:39

EfficientViT：高效视觉transformer与级联组注意力

计算效率2.3.参数效率3、高效视觉Transformer3.1.EfficientViT的构建块3.2、EfficientViT网络架构4、实验4.1.实现细节4.2.ImageNet上的结果4.3.迁移学习结果
静静AI学堂·2023-10-08 22:09

YoloV5改进策略：EfficientViT，高效的视觉transformer与级联组注意力提升YoloV5的速度和精度，打造高效的YoloV5

计算效率2.3.参数效率3、高效视觉Transformer3.1.EfficientViT的构建块3.2、EfficientViT网络架构4、实验4.1.实现细节4.2.ImageNet上的结果4.3.迁移学习结果
静静AI学堂·2023-10-08 22:33

迁移学习

摘要：到底是迁移学习？什么时候使用它？如何使用它？所谓迁移学习是指针对新问题重新使用预先训练的模型。由于它能用较少的数据训练深度神经网络，这使得目前它在深度学习领域非常流行。
金石开1510·2023-10-08 12:04

迁移学习是什么？

迁移学习（TransferLearning）是一种机器学习方法，它的主要思想是将已经在一个任务上学到的知识迁移到另一个相关或不相关的任务上，以提高目标任务的性能。
XF鸭·2023-10-08 12:26

领域自适应的几个子问题

Closed-setdomainadaptation（闭集领域适应）Closed-setdomainadaptation（闭集领域适应）是迁移学习中的一个子问题，其中我们假设源领域和目标领域的所有类别都是已知的且完全相同的
Top Secret·2023-10-07 00:42

论文笔记-BOFFIN TTS: FEW-SHOT SPEAKER ADAPTATION BY BAYESIAN OPTIMIZATION

FEW-SHOTSPEAKERADAPTATIONBYBAYESIANOPTIMIZATION链接：https://arxiv.org/abs/2002.01953相关代码：暂无摘要本文提出基于贝叶斯优化的迁移学习
静夜寒风·2023-10-06 21:43

Multi-Source Transfer Learning via Ensemble Approach for Initial Diagnosis of Alzheimer’s Disease

方法单源迁移学习：DS1\quadD_{S1}DS1到DSm_{Sm}Sm是源域数据集，DT_TT是目标域数据集。
宇来风满楼·2023-10-06 20:20

微调（fine-tune）

迁移学习不是一种算法而是一种机器学习思想，应用到深度学习就是微调（Fine-tune)。
盐巴饭团193·2023-10-06 19:29

010基于深度学习是否感染COVID分类检测

整体代码文件如下：dataset文件夹存放的是是否感染COVID的图像通过01训练数据集文本生成.py将数据集文件夹下的图像路径保存在当前文件下的test.txt,和train.txt中，再运行02VGG16迁移学习训练模型
bbfbdfbfghfh·2023-10-05 21:34

009小程序版本中草药识别-自制数据集

代码文件包括算法部分和小程序部分算法部分包括中草药的数据集文件夹下放的是不同类别的中草药文件夹，搜集对应的中草药图即可01训练数据集文本生成.py会对中草药图像的路径进行保存到txt文本中再使用02resnet迁移学习
bbfbdfbfghfh·2023-10-05 21:03

CLIP 论文逐段精读【论文精读】

比如呢作者说clip的这个迁移学习能力是非常强的，它预训好的这个模型能够在任意一个视觉分类的这个数据集上，取得不错的效果，而且最重要的是它是zeroshot的，意思就是说他完全没有在这些数据集上去做训练
云淡风轻__·2023-10-05 18:51

Keras(二十二)使用keras实现resnet50模型做迁移学习-finetune

本文将介绍：使用keras实现resnet50模型实现迁移学习-finetune一，下载kaggle-10monkey数据通过下面的链接，下载dataset到本地目录intput中kaggle-10monkey
TFATS·2023-10-04 12:08

chatgpt技术总结（包括transformer，注意力机制，迁移学习，Ray，TensorFlow，Pytorch）

最近研读了一些技术大咖对chatgpt的技术研讨，结合自己的一些浅见，进行些许探讨。我们惊讶的发现，chatgpt所使用的技术并没有惊天地泣鬼神的创新，它只是将过去的技术潜能结合现在的硬件最大化的发挥出来，也正因如此，旧有技术的可用性，让各大厂嗅到了快速发展的商机，纷纷跑步入场。首先我们要了解chatgpt是一种自然语言处理模型，也可以理解为文本生成模型。在框架上chatgpt采用了transfo
笑傲江湖2023·2023-10-04 06:11

深度学习与python theano

文章目录前言1.人工神经网络2.计算机神经网络3.反向传播4.梯度下降-cost函数1.一维2.二维3.局部最优4.迁移学习5.theano-GPU-CPUtheano介绍1.安装2.基本用法1.回归2
泰勒朗斯·2023-10-01 23:21

神经网络中的知识蒸馏

教师–学生网络的方法，属于迁移学习的一种。迁移学习也就是将一个模型的性能迁移
the animal·2023-10-01 22:56

深度迁移学习(Deep Migration Learning)

深度迁移学习（DeepTransferLearning）是一种在深度学习领域中应用的迁移学习方法，旨在通过利用从一个领域学习到的知识来改善在另一个相关但数据较少的领域上的学习任务。
WTIAW.TIAW·2023-10-01 11:40

在深度迁移学习中，什么是源域，什么是目标域？

在深度迁移学习中，源域（SourceDomain）和目标域（TargetDomain）是两个关键概念。源域是指模型进行预训练的数据集或领域。
WTIAW.TIAW·2023-10-01 07:39

【深度学习】Hugging Face Transformers：预训练语言模型与迁移学习

摘要：本文介绍了HuggingFaceTransformers库，重点介绍了预训练语言模型和迁移学习的概念。
PyTechShare·2023-10-01 03:15

目标检测网络系列——Faster-RCNN(实验部分)

的有效性其他RPN有效性的实验VGG16+RPN网络超参数的对比IoU与召回率的关系onestagevstwostageMSCOCO数据集MSCOCO数据集情况对比结果COCO数据集到PASCAL数据集的迁移学习上一篇已经将
新兴AI民工·2023-09-30 00:09

计算机竞赛 深度学习卷积神经网络垃圾分类系统 - 深度学习 神经网络 图像识别 垃圾分类 算法 小程序

文章目录0简介1背景意义2数据集3数据探索4数据增广(数据集补充)5垃圾图像分类5.1迁移学习5.1.1什么是迁移学习？5.1.2为什么要迁移学习？
Mr.D学长·2023-09-28 06:33

基于迁移学习和注意力机制的伪装图像分割

在现有伪装数据集基础上,提出了一种结合迁移学习和有效通道注意力的UNet网络伪装图像分割方法。
龙腾亚太·2023-09-27 04:52

Improved Baselines with Momentum Contrastive Learning 论文学习

这两个方法与现有的MoCo和SimCLR框架是正交的，能提升MoCo在图像分类和目标检测上迁移学习的效果。此外
calvinpaean·2023-09-27 04:21

Python深度学习入门 - - 卷积神经网络学习笔记

文章目录一、卷积神经网络简介二、卷积神经网络的数学原理1、卷积层2、池化层3、感受野三、Python实战卷积神经网络1、LetNet-5网络2、Resnet残差网络3、VGGNet迁移学习总结一、卷积神经网络简介卷积神经网络
szu_ljm·2023-09-25 20:26

2021-09-07

NatBiotech|迁移学习将单细胞数据映射到参考图集原创huacishu图灵基因今天收录于话题#前沿生物大数据分析撰文：huacishuIF=54.904推荐度：⭐⭐⭐⭐⭐亮点：1、研究人员介绍了一种深度学习策略
图灵基因·2023-09-25 03:55

使用 PyTorch 的计算机视觉简介 （5/6）

二、预训练模型和迁移学习训练CNN可能需要大量时间，并且该任务需要大量数据。但是，大部分时间都花在学习网络用来从图像中提取模式的最佳低级过滤器上。
无水先生·2023-09-24 15:55

迁移学习应用（整理自王晋东）

Transferlearningapplications迁移学习的应用(医学领域加粗)20190408arXivUnsupervisedDomainAdaptationofContextualizedEmbeddings
sharekiller·2023-09-24 15:39

教程丨一文入门图像预训练模型

阅读本文后，你将熟悉以下主题：丨ImageNet丨预训练模型丨迁移学习（热门主题）丨使用预训练模型去识别一张未知图像丨PyTorc
数据实战派·2023-09-24 14:03

《世界十大学习方法》之方法迁移

它包括很多方面，本节介绍9种：1）精益理论+创业=精益创业；2）系统动力学+管理学=第五项修炼；3）学习迁移和迁移学习；4）孙正义的
广义动量定理高广宇·2023-09-24 05:09

联邦学习基础知识和概念（入门）

联邦学习基础知识和概念（入门）联邦学习介绍联邦学习分类横向联邦学习客户-服务器架构对等网络架构纵向联邦学习迁移联邦学习联邦迁移学习的分类**基于实例的联邦迁移学习****基于特征的联邦迁移学习****基于模型的联邦迁移学习
aYao1224·2023-09-23 13:00

生成迁移学习 (Generative Transfer Le

蚂蚁集团产品经理实习环境靠着西湖，空气非常清新在蚂蚁集团产品经理实习已经两周啦，给大家share这里的情况。公司环境：背靠西湖风景区，天然氧吧，但是蚊子也很多，这一点特别不友好；园区特别好看，空气非常清新，题解|#字符串排序#importjava.util.Scanner;importjava.util.TreeMap;importjava.util.TreeSet;impor题解|#删除字符串中
2301_78234743·2023-09-23 10:28

tensorflow-卷积神经网络-图像分类入门demo

猫狗识别数据预处理：图像数据处理，准备训练和验证数据集卷积网络模型：构建网络架构过拟合问题：观察训练和验证效果，针对过拟合问题提出解决方法数据增强：图像数据增强方法与效果迁移学习：深度学习必备训练策略导入工具包
W_en丶·2023-09-23 05:21

【迁移学习】

【迁移学习】1迁移学习的思路2迁移学习的步骤3具体步骤1迁移学习的思路迁移学习的思路是利用预训练模型的卷积部分（卷积基）提取数据集的图片特征，然后重新练最后的全连接部分（分类器），迁移学习的特征提取部分
知识推荐号·2023-09-23 05:48

yolo中迁移学习和增量学习的区别是什么，适用于什么情况

在YOLO中，迁移学习和增量学习是两种不同的训练策略，它们有着不同的应用场景和目的。1.迁移学习（TransferLearning）：迁移学习是指将在一个任务上训练好的模型应用于另一个相关任务上。
小镇种田家·2023-09-22 20:47

[论文笔记]Adapter turning

预训练+微调的范式是一种高效的迁移学习机制。然而，当有很多下游任务时，微调参数并不高效：对于每个任务都要有一个全新的模型。
愤怒的可乐·2023-09-19 21:22

pytorch迁移学习训练图像分类

pytorch迁移学习训练图像分类一、环境配置二、迁移学习关键代码三、完整代码四、结果对比代码和图片等资源均来源于哔哩哔哩up主：同济子豪兄讲解视频：Pytorch迁移学习训练自己的图像分类模型一、环境配置
张嘉烘·2023-09-17 18:31

PyTorch机器学习与深度学习技术方法与案例应用

目录第一章、Python基础知识串讲第二章、PyTorch简介与环境搭建第三章、PyTorch编程入门与进阶第四章、PyTorch前向型神经网络第五章、PyTorch卷积神经网络第六章、PyTorch迁移学习第七章
Teacher.chenchong·2023-09-17 16:01

【第38篇】MixConv：混合深度卷积核

3MixConv3.2MixConv设计选择3.3MobileNets上的MixConv性能3.4消融研究4MixNet4.1架构搜索4.2ImageNet上的MixNet性能4.3MixNet架构4.4迁移学习表现
静静AI学堂·2023-09-17 07:24

机器学习 day33（误差分析、添加数据、迁移学习）

误差分析我们可以手动查看分类错误的子集样本（通常为100个），并统计他们的错误类型在所有错误类型中，选择一种或几种最常见的错误，进行改进。这可以最高效的改进你的模型误差分析的一个限制是：它只能很好的解决人类擅长的问题添加数据添加数据有三种常见方法：直接添加全新的数据，数据增强，数据合成添加所有类型的全新数据可能又贵又慢，因此添加有针对性的全新数据可以更低成本的改进模型在图像和音频领域，数据增强是一
丿罗小黑·2023-09-17 06:27

VL-Adapter： 针对视觉和语言（Vision-and-Language）的参数高效迁移学习

VL-ADAPTER:Parameter-EfficientTransferLearningforVision-and-LanguageTasks22年发表在CVPRUNC大学Abstract将介绍VL-BART和VL-T5这两个模型（adapter-basedparameter-efficienttransferlearningtechniques）评估这俩模型通过一个统一的多任务设置。对于im
菜菜小堡·2023-09-16 14:59

迁移学习、领域自适应、多源迁移学习、多任务学习

1.迁移学习与领域自适应定义：迁移学习：它包括采用预先训练的模型（在源任务上训练的模型），并使用它来改进新目标任务的学习。这可以包括使用模型作为特征提取器，微调模型，或使用模型的部分作为初始化。
Top Secret·2023-09-16 09:32

迁移学习和多任务学习

迁移学习（TransferLearning）深度学习中，最强大的理念之一就是，有的时候神经网络可以从一个任务中习得知识，并将这些知识应用到另一个独立的任务中。
Luo_LA·2023-09-16 09:02

few shot目标检测survey paper笔记（迁移学习）

paper:Few-ShotObjectDetection:AComprehensiveSurvey(CVPR2021)metalearning需要复杂的情景训练，而迁移学习仅需在一个single-branch
蓝羽飞鸟·2023-09-16 05:35

PyTorch深度学习实战（15）——迁移学习

PyTorch深度学习实战（15）——迁移学习0.前言1.迁移学习1.1迁移学习基本概念1.2迁移学习的重要性1.3ImageNet1.4迁移学习流程2.VGG16架构3.使用预训练VGG16模型实现猫狗分类小结系列链接
盼小辉丶·2023-09-15 06:32
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他