simclr

【论文精读】SimCLR2

具体改进有：发现在半监督学习（无监督预训练+有监督微调）中，对于较大的模型只需采用少量有标签数据就可实现良好的结果证明了SimCLR中用于半监督学习的卷积层之后非线性变换（投影头）的重要性。
None-D·2024-02-19 22:40

论文阅读_对比学习_SimCLR

介绍英文题目：ASimpleFrameworkforContrastiveLearningofVisualRepresentations中文题目：视觉表征对比学习的简单框架论文地址：https://arxiv.org/abs/2002.05709v2领域：深度学习，知识表示，半监督学习，对比学习发表时间：2020作者：TingChen，Hinton团队，GoogleResearch出处：ICML被
xieyan0811·2024-02-09 15:20

对比学习(Contrastive Learning) (2)

《SupervisedContrastiveLearning》该工作将原来自监督学习(self-supervised)的对比学习思想扩展到全监督学习(full-supervised)，相比于上一篇SimCLR
weiweiweimengting·2024-01-23 07:01

使用自监督对比学习模型SimCLR完成图像分类任务：pytorch代码详解

文章目录一、定义有监督和无监督部分网络结构和损失函数1.1任务分解1.2代码1.3代码详解1.3.1SimCLRStage11.3.2SimCLRStage21.3.3lossfunction二、配置文件config.py2.1代码2.2解释三、无监督学习数据加载loaddataset.py3.1代码3.2代码详解3.2.1重写__getitem__方法3.2.2main方法四、无监督训练：tra
好喜欢吃红柚子·2023-12-27 13:11

【论文阅读笔记】SimCLR - A Simple Framework for Contrastive Learning of Visual Representations

【论文阅读笔记】SimCLR-ASimpleFrameworkforContrastiveLearningofVisualRepresentations摘要这篇文章介绍了SimCLR，这是一个用于对视觉表示进行对比学习的简单框架
Kirvin_xia·2023-12-26 17:48

【已解决】ModuleNotFoundError: No module named ‘matplotlib‘

问题描述Traceback(mostrecentcalllast):File"/home/visionx/nickle/temp/SimCLR/linear_evaluation.py",line207
鳗小鱼·2023-11-12 10:09

【已解决】ModuleNotFoundError: No module named ‘sklearn‘

问题描述Traceback(mostrecentcalllast):File"/home/visionx/nickle/temp/SimCLR/linear_evaluation.py",line210
鳗小鱼·2023-11-12 10:35

论文学习之对比学习【1】-SimCLR：论文阅读与简单demo测试

对比学习SimCLR：论文阅读与简单demo测试1.论文摘要解读：1.1内容翻译1.2重点提要2.对比学习的主要思想3.SimCLR的主要结构解析3.1数据增强3.2数据编码3.3深度映射模块3.4对比损失函数参考文献资料
cnjs1994·2023-11-10 02:35

不止GPT-3、SimCLR、YOLOv4...

然后，汇总到一起，并根据7天的社交媒体热度对所有论文进行热度评分，最后选出来了十大arXiv热门论文，其中就有GPT-3、SimCLR、YOLOv4等研究工作。以下是
人工智能与算法学习·2023-11-09 13:18

自监督学习模型发展综述：Inst Disc、Inva Sread、MOCO、SimCLR、BYOL

文章目录一、InstDisc研究意义价值个体判别（instancediscrimination）特点实现方法如何训练CNN大量负样本如何存储前向传播过程ProximalRegularization超参数设置二、InvaSread特点原理如何选取正负样本前向传播过程目标函数模型效果不够好的原因MoCoSimCLR模型正负样本对的选取ProectionHead前向传播过程和InvaSread的区别BY
好喜欢吃红柚子·2023-10-27 14:20

自监督对比学习框架SimCLR原理

目录一、前言人工智能发展近况对比学习二、数据集介绍STL-10数据集三、无监督图像表征对比学习SimCLRSimCLR算法基本原理数据增强与正负样本匹配编码器损失函数对比学习全过程四、有监督的图像下游任务迁移替换下游任务网络层有监督训练五、实验无监督训练有监督训练六、结论一、前言人工智能发展近况2023年，由于transformer等模型的应用，人工智能领域的研究迎来了爆炸式的增长。3月8日，微软
G.E.N.·2023-10-12 16:12

Improved Baselines with Momentum Contrastive Learning 论文学习

在检测和分割任务上，MoCo的非监督预训练表现优于在ImageNet监督预训练的表现；在线性分类表现上，SimCLR进一步缩小了非监督和监督预训练的差距。2.提出了什么方法？
calvinpaean·2023-09-27 04:21

对比学习与simclr详解

对比学习（ContrastiveLearning）是一种机器学习方法，旨在通过比较数据样本之间的相似性和差异性来学习有用的表示（特征）。其核心思想是通过将相似的样本映射到相邻的位置，将不相似的样本映射到远离的位置，从而在表示空间中更好地区分不同类别或概念。对比学习通常包括以下关键组件：对比损失函数（ContrastiveLossFunction）：这是对比学习的核心组件之一。对比损失函数的设计使得
爱学习的书文·2023-09-09 01:17

自监督学习的概念

这里先验任务是指，先使用原始数据和特征提取器来提取出数据的有效表示．对比方法(即对比学习，ContrastiveLearning)是一类SSL方法:它根据数据增强（例如SimCLR[1]）优化编码器以输出相同数据的不同视图的相似的
mingqian_chu·2023-09-03 21:44

cs231n assignment3 q5 Self-Supervised Learning for Image Classification

__getitem__()题面解析代码输出simclr_loss_naive题面解析代码输出sim_positive_pairs题面解析代码输出compute_sim_matrix题面解析代码输出simclr_l
理智点·2023-08-26 15:07

SIMCLR V2论文整理

摘要目前利用大量无标签数据的主要方法是无监督预训练+监督型调参。本文提出的方法包括三部分1）使用SIMCLRv2对一个大型的resnet网络进行无监督预训练学习，2）在少量有标签数据上进行监督调参，3）在无标签数据上进行蒸馏以精炼模型并迁移特定任务的知识。利用1%的标签，在imagenet取得了73.9%的top1准确率，利用10%的标签，取得77.5%的top1准确率。1.introductio
赵小闹闹·2023-08-23 13:00

基础论文学习（4）——CLIP

CLIP是一种基于对比学习的多模态模型，与CV中的一些对比学习方法如moco和simclr不同的是，CLIP的训练数据是文本-图像对：一
Yuezero_·2023-08-22 10:52

【无监督】4、BYOL | 首个不使用负样本的对比学习框架

文章目录一、背景和动机二、方法2.1BYOL网络结构2.2实现细节三、效果3.1总体效果3.2和SimCLR的对比四、BYOL真的没有用到负样本吗？
呆呆的猫·2023-08-21 20:10

【计算机视觉】SimCLR v2 讲解

在阅读本篇之前建议先学习：【计算机视觉】MoCo讲解【计算机视觉】SimCLR讲解【计算机视觉】MoCov2讲解SimCLR_v2论文信息标题：BigSelf-SupervisedModelsareStrongSemi-SupervisedLearners
不牌不改·2023-08-17 08:23

使用Pytorch实现对比学习SimCLR 进行自监督预训练

SimCLR（SimpleFrameworkforContrastiveLearningofRepresentations）是一种学习图像表示的自监督技术。
·2023-08-15 16:41

【计算机视觉】SimCLR 讲解

在阅读本篇之前建议先学习：【机器学习】噪声对比估计（NCE）【计算机视觉】MoCo讲解【计算机视觉】InvaSpread讲解SimCLR_v1论文信息标题：ASimpleFrameworkforContrastiveLearningofVisualRepresentations
不牌不改·2023-08-10 05:51

【计算机视觉】MoCo v2 讲解

在阅读本篇之前建议先学习：【计算机视觉】MoCo讲解【计算机视觉】SimCLR讲解MoCov2论文信息标题：ImprovedBaselineswithMomentumContrastiveLearning
不牌不改·2023-08-10 05:16

无监督表示学习（三）：2020 Simple Contrastive Learning of Visual Representations(SimCLR)

2020年2月Hinton团队的一项新研究：SimCLR，提出了对比学习为无监督表示学习领域带来的巨大突破，并推出了性能优越的表示模型SimCLR。
快乐的二叉树·2023-07-31 02:09

【解析】对比学习和孪生网络的关系

一些自我监督学习的算法（如SimCLR、MoCo、BYOL、SimSiam等）实际上就是使用孪生网
爱学习的书文·2023-07-29 11:07

【解析】介绍simclr、moco、simsiam、BYOL的联系和区别

文章目录对比SimCLR（简单对比损失的自我监督学习）MoCo（动量对比）SimSiam（SimpleSiamese）BYOL（BootstrapYourOwnLatent）选择计算资源数据实时更新简单性和易用性
爱学习的书文·2023-07-29 11:34

自监督学习——对比学习SimCLR框架（原理+代码）

1原理对比学习通过比较不同实例之间的相似性和差异性来进行学习。在对比学习中，我们将输入数据分为不同的类别或组（正负样本对），并通过比较样本之间的差异来提取特征或进行分类。样本相似度对比学习有几种不同的方法，其中最常见的是基于距离度量的方法。这些方法使用距离函数来度量两个实例之间的相似性，例如欧氏距离或余弦相似度。通过计算实例之间的距离，我们可以找到最相似或最不相似的实例，从而进行特征选择、相似性匹
Yuezero_·2023-07-28 21:56

度量学习和表征学习

通过距离损失优化模型——>度量距离相关的损失函数图片出自《【极市】张宇涵-CVPR2020Oral｜CircleLoss，从统一视角提升深度特征学习能力_哔哩哔哩_bilibili》损失函数对比学习损失函数以SimCLR
chen_zn95·2023-07-19 10:53

【自监督论文阅读 3】DINOv1

4.1SSLwithKnowledgeDistillation4.2教师网络4.3网络架构4.4避免坍塌五、实验与评估六、消融实验6.1不同组合的重要性6.2教师网络选择的影响6.3避免坍塌6.4在小batch上训练七、结论自监督论文阅读系列：【自监督论文阅读1】SimCLR
hjxu2016·2023-06-22 22:58

【自监督学习1】SimCLR论文阅读

文章目录一、摘要二、引言三、方法3.1主要框架3.2训练一个大的batchsize四、数据增强4.1实验一数据增强的组合对学习好的特征表达非常重要4.2对比学习需要更多的数据增强五、一些实验证明5.1大模型更有利于无监督对比学习5.2非线性层的预测头增加了特征表示5.3可调节的归一化交叉熵损失函数由于其他方法5.4对比学习更受益于大的batchsize和更长的训练时间六、结论七、其他paper地址
hjxu2016·2023-06-16 05:08

【OpenMMLab】AI实战营第二期Day4：深度学习预训练与MMPretrain

自监督学习：通过数据增强以及单batch内的负样本训练，使用simclr来比较两个图像的相似性。
songyuc·2023-06-16 03:03

对比学习做了什么？

如果想要更快速的了解什么是对比学习或者说对比学习是怎么做的，可以看SimCLR这个模型文章，该文章可以说介绍了比较“标准”的对比学习模型，这篇文章对SimCLR进行了图解，讲得很好。
Charon_HN·2023-06-11 20:12

Robert+SimCLR+PGD实现文本分类

在使用SimCLR思想结合对抗训练的思想最大程度提升模型文本分类的准确率方面，你可以尝试以下方法：对数据集进行增强，例如随机切割、随机旋转、随机缩放等，以增加模型的鲁棒性。
Dr.sky_·2023-06-10 21:52

Robert+SimCLR+FGSM实现文本分类

用SimCLR思想结合对抗训练的思想提升模型文本分类的准确率，我用Pytorch实现，代码逐行注释。目录二、加载数据集三、定义模型四、定义训练函数五、定义测试函数
Dr.sky_·2023-06-10 21:22

Contrastive Representation Learning 对比表征学习（二）关键成分

比如，SimCLR中的实验表明随机裁剪和随机颜色失真对于学习图像的视觉表征是至关重要的。大BatchSize对于很多依赖batch内负样本
阿达西家·2023-04-20 04:49

4.无监督算法 SimCLR

有点像词向量预训练模型，这个框架可以作为很多视觉相关的任务的预训练模型，可以在少量标注样本的情况下，拿到比较好的结果。结果该研究一次就把无监督学习（学习后再用于分类等后续任务）的指标提升了7-10%，甚至可以媲美有监督学习的效果。在这篇论文中，研究者发现[4]：多个数据增强方法组合对于对比预测任务产生有效表示非常重要。此外，与有监督学习相比，数据增强对于无监督学习更加有用；在表示和对比损失之间引入
xz1308579340·2023-04-10 01:52

SimCLR：用于视觉表征的对比学习框架

论文链接:https://arxiv.org/pdf/2002.05709.pdf官方github链接:https://github.com/google-research/simclr他人复现pytorch
巍巍微澜·2023-04-10 01:46

无监督学习方面的两篇巨作simclr与MoCo介绍

一、SIMCLR介绍论文网址代码链接提出了一个简单的视觉表征对比学习框架SimCLR。简化了最近提出的对比自监督学习算法，而不需要专门的架构或内存库。
静候：花开·2023-04-10 01:46

使用Pytorch实现对比学习SimCLR 进行自监督预训练

SimCLR（SimpleFrameworkforContrastiveLearningofRepresentations）是一种学习图像表示的自监督技术。
deephub·2023-04-10 00:29

对比学习（Contrastive Learning）相关进展梳理

另一巨头Hinton和Kaiming两尊大神也在这问题上隔空过招，MoCo、SimCLR、MoCoV2打得火热，这和BERT之后，各大公司出XL-Net、RoB
Wanderer001·2023-04-07 00:04

NIPS20： GraphCL Graph Contrastive Learning with Augmentations

另外一方面损失函数都是NT-Xent（normalizedtemperature-scaledcrossentropyloss）这个损失是simCLR的，文章四作就是simCLR的作者TingChen。
Complicated__76·2023-04-07 00:28

自监督学习算法整理

MoCov1&v2,SwAV，Simsiam,TwinsGoogleResearch,BrainTeam：SimCLRv1&v2DeepMindResearch：BYOL（1）谷歌组SimCLRv1&v2SimCLR
赵小闹闹·2023-03-26 16:04

自监督学习-论文笔记

自监督学习近两年的一些比较好的方法：SimCLR,MoCo,BYOL。
xueliang_·2023-03-09 11:42

一个简单的方法，用于视觉表示的对比学习

ASimpleFrameworkforContrastiveLearningofVisualRepresentationshttps://arxiv.org/abs/2002.05709ICML2020https://github.com/google-research/simclr
Vinteuil·2023-03-08 23:20

paper总结(1)A Simple Framework for Contrastive Learning of Visual Representations

本文主要介绍SimCLR框架：一个简单的视觉表示对比学习框架，不仅比以前的工作更出色，而且也更简单，既不需要专门的架构，也不需要储存库。
miss9785·2023-02-06 08:39

SimCLR图像分类——pytorch复现

SimCLR图像分类pytorch复现一、网络模型、损失函数1.原理2.code二、配置文件三、无监督学习数据加载四、无监督训练五、有监督训练六、训练并查看过程七、验证集评估八、自定义图片测试一、网络模型
朽一·2023-02-05 10:53

SimCLR框架的理解和代码实现以及代码讲解

点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”作者：MARCINZABŁOCKI编译：ronghuaiyang导读如何使用SimCLR框架进行对比学习，看这个就明白了。
ronghuaiyang·2023-02-01 20:15

FlatNCE：小批次对比学习效果差的原因竟是浮点误差？

©PaperWeekly原创·作者|苏剑林单位|追一科技研究方向|NLP、神经网络自SimCLR[1]在视觉无监督学习大放异彩以来，对比学习逐渐在CV乃至NLP中流行了起来，相关研究和工作越来越多。
PaperWeekly·2023-01-24 07:53

OpenSelfSup: OpenMMLab自监督表征学习代码库

导读自监督的表征学习领域近几个月来获得了显著的突破，特别是随着RotationPrediction,DeepCluster,MoCo,SimCLR等简单有效的方法的诞生，大有超越有监督表征学习的趋势。
机器学习与AI生成创作·2023-01-17 19:08

小样本中的自监督

自监督脉络SimCLR；SimCLRV2；BYOL；Moco；SimSiam一些典型操作原图地址WhenDoesSelf-supervisionImproveFew-shotLearning?
DeepWWJ·2023-01-10 13:33

张俊林：对比学习研究进展精要

ContrastiveLearning)最近一年比较火，各路大神比如Hinton、YannLeCun、KaimingHe及一流研究机构比如Facebook、Google、DeepMind，都投入其中并快速提出各种改进模型：Moco系列、SimCLR
夕小瑶·2023-01-10 12:11
上一页 1 2 3 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他