Self-supervised 第2页

自监督+基于骨架的人体动作识别:Unveiling the Hidden Realm: Self-supervised Skeleton-based Action Recognition in Occ

论文作者：YifeiChen,KunyuPeng,AlinaRoitberg,DavidSchneider,JiamingZhang,JunweiZheng,RuipingLiu,YufanChen,KailunYang,RainerStiefelhagen作者单位：KarlsruheInstituteofTechnology;UniversityofStuttgart;HunanUniversi

学术菜鸟小晨·2023-09-24 20:42

《Self-Supervised Generative Adversarial Networks》论文笔记

说在前面的话，我认为这篇文章的核心思想是，使得G(z)与真实图片接近的保证，除了直接匹配比较两者，还有更多的保证手段，如在真实图像中捕捉到的某种特征，在G(z)中也能捕捉到。这些保证可以作为辅佐保证来提高G的生成质量。（在此文中，可检测旋转角度的一种特征便是我这里的某种特征。）文章核心思想实现的细节是，G和D都保留原始GAN损失函数项；另，D要以真实数据的旋转角度损失，去锻炼区分某种特征的能力（那

爱学习的Whitley·2023-09-20 18:30

【深度学习】自监督学习详解（self-supervised learning）

【深度学习】自监督学习详解（self-supervisedlearning）文章目录【深度学习】自监督学习详解（self-supervisedlearning）1.引言2.自监督学习2.1对比学习2.2生成学习3.总结1.引言深度学习被分为：监督学习，无监督学习和自监督学习。监督学习近些年获得了巨大的成功，但是有如下的缺点：1.人工标签相对数据来说本身是稀疏的，蕴含的信息不如数据内容丰富；2.监督

笃℃·2023-09-13 20:01

论文阅读“Self-supervised Graph Convolutional Network for Multi-view Clustering”

XiaW,WangQ,GaoQ,etal.Self-supervisedGraphConvolutionalNetworkforMulti-viewClustering[J].IEEETransactionsonMultimedia,2021.摘要翻译现有的基于图卷积网络(GCN)的多视图学习方法，尽管有初步的有希望的结果，但由于直接使用图结构作为视图描述符，可能会抑制多媒体数据的多视图学习能力。

掉了西红柿皮_Kee·2023-09-10 16:20

MaskVO: Self-Supervised Visual Odometry with a Learnable Dynamic Mask 论文阅读

论文信息题目：MaskVO:Self-SupervisedVisualOdometrywithaLearnableDynamicMask作者：WeihaoXuan,RuijieRen,SiyuanWu,ChanghaoChen时间：2022来源：IEEE/SICEInternationalSymposiumonSystemIntegration(SII)Abstract深度学习的最新进展使移动机器

玛卡巴卡_qin·2023-09-08 06:16

论文阅读：SERE: Exploring Feature Self-relation for Self-supervised Transformer

BlueagleAI·2023-09-06 21:25

Self-supervised 3D Human Pose Estimation from a Single Image

基于单幅图像的自监督三维人体姿态估计主页：https://josesosajs.github.io/imagepose/源码：未开源摘要我们提出了一种新的自我监督的方法预测三维人体姿势从一个单一的图像。预测网络是从描绘处于典型姿势的人的未标记图像的数据集和一组未配对的2D姿势训练的。通过最小化对注释数据的需要，该方法具有快速应用于其他铰接结构（例如，关节）的姿态估计的潜力。动物）。自我监督来自早期

玲娜贝儿--努力学习买大鸡腿版·2023-09-02 20:35

cs231n assignment3 q5 Self-Supervised Learning for Image Classification

文章目录嫌墨迹直接看代码Q5Self-SupervisedLearningforImageClassificationcompute_train_transformCIFAR10Pair.__getitem__()题面解析代码输出simclr_loss_naive题面解析代码输出sim_positive_pairs题面解析代码输出compute_sim_matrix题面解析代码输出simclr_l

理智点·2023-08-26 15:07

【论文阅读笔记】（2023 CVPR）Beyond Appearance: a Semantic Controllable Self-Supervised Learning Framework for

BeyondAppearance:aSemanticControllableSelf-SupervisedLearningFrameworkforHuman-CentricVisualTasks（2023CVPR）WeihuaChen,XianzheXu,JianJia,Haoluo,YaohuaWang,FanWang,RongJin,XiuyuSun*NotesPaperLink：https:

小吴同学真棒·2023-08-15 12:35

【论文阅读笔记】（2022 ECCV）CMD: Self-supervised 3D Action Representation Learning with Cross-modal Mutual Di

写在前面我又回来啦~前段时间忙毕业论文，停更了好久【dbq】。现在论文终于送审出去啦~撒花花~后面会继续读博当科研狗吧，努力继续看论文更新blog，耶✌有小伙伴提建议弄中文版的解读，咱努力哈，一般是英文，时间有富余的话会用中文再总结一遍哒~今天可以有中文版~CMD:Self-supervised3DActionRepresentationLearningwithCross-modalMutualD

小吴同学真棒·2023-08-15 12:05

Self-supervised Learning 再次入门

作者：信息门下憨狗链接：https://zhuanlan.zhihu.com/p/108906502来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。关于自监督学习，知乎上已经有了一些资源，比如师兄@bingo的两篇介绍[2][3]、@NaiyanWang大佬之前做的survey[4]、还有最新的@Sherlock[5]。本来我的这篇分享是准备叫「Self-Superv

vieo·2023-08-09 06:53

【论文阅读】GraphCL：Contrastive Self-Supervised Learning of Graph Representations

图表示的对比自监督学习摘要1引言2方法2.1背景情况2.2GraphCL2.3GraphCL概述3实验摘要本文提出了图对比学习（GraphCL），一个以自监督方式学习节点表示的一般框架。GraphCL通过最大化同一节点局部子图的内在特征和链接结构的两个随机扰动版本的表示之间的相似性来学习节点嵌入。我们使用GNN生成同一节点的两种表示，并利用对比学习损失来最大化它们之间的一致性。在transduct

Cziun·2023-07-30 23:44

【深度学习】2021年深度学习哪些方向比较新颖，处于上升期或者朝阳阶段，没那么饱和，比较有研究潜力？...

先写两个最近火热我比较看好的方向Transformer和Self-Supervised，我这里举的例子倾向于计算机视觉方向。最后再补充Zero-Shot和多模态两个方向。

风度78·2023-07-30 22:09

CS231N assignment3-transformer,GAN,self-supervised,LSTM

这部分作业内容很大，上传到github费了很多时间，参考的是这篇：如何在GitHub上传大文件（≥100M）|码农家园(codenong.com)但是还是没传成功···所以我直接传到网盘里了链接：https://pan.baidu.com/s/1T8Sc2Owq6OMtDSo5SNKlaA提取码：784w--来自百度网盘超级会员V2的分享然后简单介绍一下作业31.RNN在之前的博客写过了2.tra

鱼鱼9901·2023-07-28 16:09

EMP-SSL: TOWARDS SELF-SUPERVISED LEARNING IN ONETRAINING EPOCH

Recently,self-supervisedlearning(SSL)hasachievedtremendoussuccessinlearningimagerepresentation.Despitetheempiricalsuccess,mostself-supervisedlearningmethodsarerather“inefficient”learners,typicallytaki

asd8705·2023-07-28 05:33

IDR: Self-Supervised Image Denoising via Iterative Data Refinement

文章目录IDR:Self-SupervisedImageDenoisingviaIterativeDataRefinement1.noisy-cleanpair比较难获取2.noiser-noisypair比较容易获取，但是训练效果呢？2.1noiser-noisy训练的模型，能够对noisy图像一定程度的降噪2.2noiser-noisy数据越接近noisy-clean数据，训练的效果越好。3.

tony365·2023-07-28 01:16

论文笔记|AAAI2023：ESPT: A Self-Supervised Episodic Spatial Pretext Task for Improving Few-Shot Learning

这篇论文的题目是ESPT:ASelf-SupervisedEpisodicSpatialPretextTaskforImprovingFew-ShotLearning，提出了用于改善小样本学习的自监督episodic空间代理任务论文接收：AAAI2023论文地址：https://arxiv.org/abs/2304.13287代码地址：https://github.com/Whut-YiRong/

李问号·2023-07-27 07:20

Self-supervised Graph Learning for Recommendation(SGL)

Code：GitHub-wujcan/SGL-Torch:SGLPyTorchversion（作者给出了Pytorch和Tensorflow两个版本）本文提出了一种应用于用户-物品二分图推荐系统的图自监督学习框架。核心的思想是，对用户-物品二部图做数据增强（本文提出了三种方式：节点丢弃（nd））、边丢弃（ed），随机游走（rw），增强后的图可以看做原始图的子视图；在子视图上使用任意的图卷积操作，如

爱晒太阳的胖子·2023-07-25 09:30

论文复现-4：ConSERT: A Contrastive Framework for Self-Supervised Sentence Representation Transfer

文章目录文中的相似度测评距离相似度测评方法效果评估1.**pearson**相关系数2.**spearman**相关系数代码源文件：EmbeddingSimilarityEvaluator.py文中的相似度测评距离距离测评公式文章整理相似度距离测评方法主要有：余弦距离、曼哈顿距离、欧式距离、dotproductcosine_scores=1-(paired_cosine_distances(emb

YingJingh·2023-07-20 11:15

机器学习：Self-supervised Learning for Speech and image

review:self-supervisedlearningfortextSelf-supervisedlearningforspeech使用Speech版本的bert能比较好的作用于语音任务上，如果没有self-supervised

uncle_ll·2023-07-20 01:12

阅读笔记 First Order Motion Model for Image Animation

方法该方法基于self-supervised策略，主要方法是基于训练视频中的一帧图像和和学习到的动作表示，重建出训练视频。

冰冰冰泠泠泠·2023-06-19 13:39

S^3-Rec:self-supervised learning for sequential recommendation with mutual information maximization

S3-rec是人大和美团等研究人员在CIKM2020上发表的一篇文章，本文提出的S3-rec提出基于自监督神经网络架构，使用互信息最大化MIM(mutualinformationmaximization)来充分挖掘出attribute,item,subsequence,andsequence之间的联系。Abstract传统的基于深度学习的序列推荐往往基于物品预测损失来训练模型参数或者数据特征。但是

futurewq·2023-06-17 13:28

论文阅读：Self-Supervised Video Representation Learning With Odd-One-Out Networks

目录ContributionsMethod1、Model2、Threesamplingstrategies.3、Videoframeencoding.ResultsMoreReferencetoFollow论文名称：Self-SupervisedVideoRepresentationLearningWithOdd-One-OutNetworks（2017CVPR）论文作者：BasuraFernan

小吴同学真棒·2023-06-16 06:45

DINOv2: A Self-supervised Vision Transformer Model

论文地址：[2304.07193]DINOv2:LearningRobustVisualFeatureswithoutSupervision(arxiv.org)演示地址：DINOv2byMetaAIMeta在开源了SegmentAnything（参见我的另外两篇文章：北方的郎：Meta:segmentanything，北方的郎：MetaSegmentAnything测试效果）之后又开源了一组DI

才能我浪费·2023-06-11 12:00

LG-BPN: Local and Global Blind-Patch Network for Self-Supervised Real-World Denoising 论文阅读笔记

这是CVPR2023的一篇自监督去噪的文章relatedwork里面的R2R、CVF-SID、AP-BSN还没看过，找时间看一下文章提出了一个叫LG-BPN的网络结构，在现有self-superviseddenoising的blindspotnetwork的基础上提出了DSPMC和dilatedtransformerblock两个模块文章在relatedwork里面把noise2noise类的方法

sysu_first_yasuo·2023-06-07 17:49

【读点论文】DisCo: Remedy Self-supervised Learning on Lightweight Models with Distilled Contrastive Learn

DisCo:RemedySelf-supervisedLearningonLightweightModelswithDistilledContrastiveLearningAbstract虽然自监督表示学习(Self-SupervisedrepresentationLearning,SSL)受到了社会各界的广泛关注，但最近的研究认为，当模型大小减小时，其性能会急剧下降。由于目前的SSL方法主要依靠

羞儿·2023-06-07 04:06

【arxiv】data2vec: A General Framework for Self-supervised Learning in Speech, Vision and Language

论文&代码MetaAI首个多模态自监督算法摘要虽然自监督学习的一般思想在模态之间是相同的，但实际的算法和目标差异很大，因为它们是在考虑到单一模态的情况下开发的。data2vec核心思想是在使用标准Transformer体系结构的自蒸馏设置中，基于输入的mask视图预测完整输入数据的潜在表示。data2vec不是预测本质上是局部的人类语音的单词、视觉标记或单元等特定于模态的目标，而是预测包含来自整个

lynn_Dai·2023-04-17 00:08

论文阅读 —— Graph Self-Supervised Learning: A Survey （自监督图学习综述）

论文链接：https://arxiv.org/pdf/2103.00111.pdf目录摘要1引言2定义和符号（notation）2.1术语定义2.2符号3框架和分类3.1图自监督学习的统一框架和数学公式3.2图自监督学习的分类3.3自我监督训练计划的分类3.4下游任务分类4基于生成的方法4.1特征生成4.2结构生成5基于属性的辅助方法5.1辅助属性分类5.1.1基于聚类的方法5.1.2基于成对关系

无脑敲代码，bug漫天飞·2023-04-16 09:39

【论文笔记】Learning Synergies between Pushing and Grasping with Self-supervised Deep Reinforcement Learn

文章目录【论文笔记】LearningSynergiesbetweenPushingandGraspingwithSelf-supervisedDeepReinforcementLearningAbstractI.INTRODUCTIONII.RELATEDWORKNon-prehensilemanipulationGraspingPushingwithgraspingIII.PROBLEMFORM

Ctrl+Alt+L·2023-04-10 23:17

2020-02-27

RetinaFace是一种人脸检测方案，这个方案利用self-supervised和extra-supervised多任务学习的优势，可以实现像素级、多尺度的人脸的检测。

BlueCCircle·2023-04-10 06:00

论文阅读-Self-Supervised Video Forensics by Audio-Visual Anomaly Detection-音视频异常检测

一、论文信息论文名称：Self-SupervisedVideoForensicsbyAudio-VisualAnomalyDetection作者单位：Github:https://cfeng16.github.io/audio-visual-forensics.二、动机与创新动机：被操纵的视频通常包含视觉和音频信号之间的微妙不一致，并且很难收集捕获所有可能操作的大型带标签的数据集。为检测被操纵的视

完美屁桃·2023-04-07 01:58

Decoupled Adversarial Contrastive Learning for Self-supervised Adversarial Robustness

本文提出了一种解耦对抗对比学习（DeACL）的两阶段框架。该方法不同于之前直接将AT集成到SSL中的方法，而是将整个分为两阶段进行，这种动机将任务的重点冲为耦合问题寻找最优集成策略转移到为在问题寻找子解决方案。两阶段看似比但阶段耗费时间，但事实是：SSL需要比有监督的训练多M倍的迭代，AT通常比标准训练慢N倍，将AT与SSL组合到一起进行但阶段训练其速度慢了M*N倍，DeACL由于解缠效应只满了M

你今天论文了吗·2023-04-06 03:01

论文阅读：Self-Supervised Monocular Depth Estimation with Internal Feature Fusion(DIFFNet)

中文标题：基于内部特征融合的自监督单目深度估计创新点参照HR-Net在网络上下采样的过程中充分利用语义信息。设计了一个注意力模块处理跳接。提出了一个扩展的评估策略，其中方法可以使用基准数据中的困难的情况进行进一步测试，以一种自我建立的方式形成。网络结构设计高分辨率编码器浅层但高分辨率的特征在空间上很精确，相反，深层但低分辨率的特征在空间上并不精确，但是语义信息丰富。xre,sx^e_r,sxre,

BlueagleAI·2023-04-02 15:58

Open AI 自监督学习笔记：Self-Supervised Learning | Tutorial | NeurIPS 2021

转载自微信公众号原文链接：https://mp.weixin.qq.com/s?__biz=Mzg4MjgxMjgyMg==&mid=2247486049&idx=1&sn=1d98375dcbb9d0d68e8733f2dd0a2d40&chksm=cf51b898f826318ead24e414144235cfd516af4abb71190aeca42b1082bd606df6973eb963

R.X. NLOS·2023-04-02 01:31

论文复现-3：ConSERT: A Contrastive Framework for Self-Supervised Sentence Representation Transfer

在这个文件中，data是process之后的数据集，用在model的train过程中。datasets是放置data的zip的文件夹output是modeltrain和evaluation之后得到的文件scripts是modeltrain或者test可能会用到的sh文件sentence_transformers存放的是pythontool中的sentence_transformers的具体模块tr

QianTu&·2023-04-01 18:58

论文复现-1：ConSERT: A Contrastive Framework for Self-Supervised Sentence Representation Transfer

论文题目：ConSERT:AContrastiveFrameworkforSelf-SupervisedSentenceRepresentationTransfer文章目录论文内容回顾论文做了什么？一、问题发现二、relatedwork三、论文工作3.1模型架构3.2模型详解3.3数据增强手段3.4融入supervision信号3.5模型实验四、Ablationstudy论文内容回顾论文做了什么？

QianTu&·2023-04-01 18:57

论文复现-2：ConSERT: A Contrastive Framework for Self-Supervised Sentence Representation Transfer

文章目录代码实现部分1.数据集2.模型部分2.1main主文件模型部分数据加载部分model的加载sentenceembedding的得到train数据dev数据model的train更新参数trainprocess3.损失函数与优化器4.模型训练与推理5.代码运行示例代码实现部分1.数据集Chinesedataset：ATEC-CCKS数据集中是sentencepair形式存储的数据集，每行数据

QianTu&·2023-04-01 18:57

SGL：Self-supervised Graph Learning for Recommendation论文

一、前言1、背景探索了在用户-商品图上的自监督学习，以提高GCNs推荐的准确性和鲁棒性。该思想是用一个辅助的自监督任务来补充经典的推荐监督任务，通过自鉴别器来强化节点表示学习。具体来说，我们生成一个节点的多个视图，最大化同一个结点不同视图表示之间的相似性，最小化不同结点表示之间的相似性。我们设计了三个操作来生成视图，分别是节点dropout、边dropout和随机游走，以不同的方式改变图的结构。传

只想做个咸鱼·2023-03-26 07:46

Self-supervised Graph Neural Networks for Multi-behavior Recommendation-IJCAI 2022 读书笔记

0作者ShuyunGu,XiaoWang,ChuanShi∗^∗∗andDingXiao1动机传统推荐系统一般只考虑购买行为，忽略了放入购物车、浏览行为；本文将购买、放入购物车、浏览三个行为一起考虑；考虑购买和放入购物车行为的差异，进行对比学习；考虑购买和浏览行为的差异，进行对比学习。2相关工作GraphNeuralNetworks(GNN):参考文献[3]NGCN:参考文献[4]LightGCN

RebeccaCute·2023-03-26 07:07

经典图推荐系统论文Self-supervised Graph Learning for Recommendation算法及代码简介

Self-supervisedGraphLearningforRecommendation论文链接：https://dl.acm.org/doi/abs/10.1145/3404835.3462862论文背景/动机得益于图神经网络（GraphNeuralNetwork）的强大图结构建模能力，推荐系统已经从建模单一交互对发展至建模整个用户-物品交互图。通过迭代执行多层图卷积网络，中心节点可以聚合来自

博一老狗·2023-03-26 07:25

论文笔记-Self-Supervised Learning With Adaptive Distillation for Hyperspectral Image Classification

为了解决高光谱分类问题中带标签数据不足，数据标签采集困难的问题，本文提出了一种自适应SoftLabel生成方法，同时提出了PCN网络结果和自适应蒸馏的网络训练方法和高光谱3DTransformation数据增强方法，联合多种方法，实现Fewshotlearning，最终结果显示能够通过5-10个样本，实现80%~90%的分类准确率0.基本信息引用信息J.Yue,L.Fang,H.Rahmanian

HenryYanWhu·2023-03-17 04:09

论文阅读VideoMAE: Masked Autoencoders are Data-Efficient Learners for Self-Supervised Video Pre-Training

VideoMAE:MaskedAutoencodersareData-EfficientLearnersforSelf-SupervisedVideoPre-Training文章目录VideoMAE:MaskedAutoencodersareData-EfficientLearnersforSelf-SupervisedVideoPre-Training研究动机：Abstract本文提出方法：具体

JWangwen·2023-03-16 16:18

【自监督论文阅读笔记】CASTing Your Model: Learning to Localize Improves Self-Supervised Representations

Abstract自监督学习(SSL)的最新进展在很大程度上缩小了与监督ImageNet预训练的差距。尽管这些方法取得了成功，但它们主要应用于未标记的ImageNet图像，并且在对较大的未处理图像集进行训练时显示出小的收益。我们假设当前的SSL方法在iconic标志性图像上表现最佳，而在具有许多对象的复杂的场景图像上表现不佳。分析对比SSL方法表明，它们在场景图像上训练时视觉基础差并且接收到的监督信

YoooooL_·2023-03-09 10:28

DINO Emerging Properties in Self-Supervised Vision Transformers 论文阅读

EmergingPropertiesinSelf-SupervisedVisionTransformers阅读笔记介绍论文作者提出了一种新的自监督学习方法，self-distillationwithnolabels（DINO）。并将其应用在了CNN和VisionTransformer(ViT)结构上，均取得了不错的效果，且ViT的效果还要优于CNN。特点self-supervisedViT的fea

MiHao_YOUNG·2023-03-09 10:27

【自监督论文阅读笔记】Emerging Properties in Self-Supervised Vision Transformers

（2021）Abstract在本文中，我们质疑自监督学习是否为VisionTransformer(ViT)[16]提供了与卷积网络(convnets)相比突出的新属性。除了使自监督方法适应这种架构的效果特别好之外，我们还进行了以下观察：首先，自监督的ViT特征包含关于图像语义分割的显式信息，这在有监督的ViTs和卷积网络中都没有那么明显。其次，这些特征也是优秀的k-NN分类器，在ImageNet上

YoooooL_·2023-03-09 10:52

（四十六）：VATT: Transformers for Multimodal Self-Supervised Learning from Raw Video, Audio and Text

（四十六）：VATT:TransformersforMultimodalSelf-SupervisedLearningfromRawVideo,AudioandTextAbstract1.Introduction2.Relatedwork2.1.TransformersinVision2.2.Self-SupervisedLearning3.Approach3.1.TokenizationandP

Laura_Wangzx·2023-02-06 13:55

SBR笔记:Self-Supervised Hypergraph Convolutional Networks for Session-based Recommendation

至少我还有梦a·2023-02-06 13:23

读书笔记：Self-Supervised GANs via Auxiliary Rotation Loss

读书笔记：Self-SupervisedGANsviaAuxiliaryRotationLoss在读完自监督综述之后，我们接着读这篇文章自监督GAN通过辅助旋转损失Abstract：背景：CGAN是处于自然图像合成的最前沿的方法，但是他的缺点也很明显，需要已经标注好的数据。答案1：我们要做的是缩小有条件ganCGAN和无条件GAN之间的差距；———》我们的方法是使用了对抗训练（adversaria

Jesse～Lau·2023-02-06 13:21

Self-Supervised Adversarial Hashing Networks for Cross-Modal Retrieval

Self-SupervisedAdversarialHashingNetworksforCross-ModalRetrieval解决问题：1.在模型训练时利用单标签去估计语义相关性，但实际数据集中有多类标签同时存在，利用多标签更精准；2.利用哈希编码会导致高维数据的丢失主要思想：自监督对抗哈希网络将标签作为自监督学习的标准，建立两个对抗网络，可让文本，图像，标签在特征提取后信息丢失更少，且语义相关

HYY233·2023-02-06 13:21

Boosting self-supervised Learning via Knowledge Transfer

Boostingself-supervisedLearningviaKnowledgeTransfer这是一篇不错的2016CVPR，值得一读https://amitness.com/knowledge-transfer/

Jesse～Lau·2023-02-06 13:51

推荐频道

Self-supervised