Multi-task

【论文笔记】Multi-Task Learning as a Bargaining Game

Abstract本文将多任务学习中的梯度组合步骤视为一种讨价还价式博弈(bargaininggame)，通过游戏，各个任务协商出共识梯度更新方向。在一定条件下，这种问题具有唯一解(NashBargainingSolution)，可以作为多任务学习中的一种原则方法。本文提出Nash-MTL，推导了其收敛性的理论保证。1Introduction大部分MTL优化算法遵循一个通用方案。计算所有任务的梯度g

xhyu61·2024-09-03 09:26

SYNERGIES BETWEEN DISENTANGLEMENT AND SPARSITY: A MULTI-TASK LEARNING PERSPECTIVE

SYNERGIESBETWEENDISENTANGLEMENTANDSPARSITY:AMULTI-TASKLEARNINGPERSPECTIVE解偶与稀疏性之间的协同作用：多任务学习的视角Abstract1.Introduction1.1.Contributions1.2Background2.DisentanglementandSparseTask-SpecificPredictorsImpr

黑洞是不黑·2024-01-26 14:13

Multi-Task Learning based Video Anomaly Detection with Attention 论文阅读

Multi-TaskLearningbasedVideoAnomalyDetectionwithAttentionAbstract1.Introduction2.Previouswork3.Method3.1.Multi-tasklearning3.2.Theappearance-motionbranch3.3.Themotionbranch3.4.Spatialandchannelattenti

何大春·2024-01-20 08:24

TPAMI 2022 :Multi-task Learning with Coarse Priors for Robust Part-aware Person Re-identification

题目：Multi-taskLearningwithCoarsePriorsforRobustPart-awarePersonRe-identification-----TPAMI2022代码：https://github.com/WangKan0128/MPN网址：https://ieeexplore.ieee.org/document/9200784前提知识多任务：https://mp.weix

涵语·2023-12-21 14:46

多任务学习（Multi-Task Learning）和迁移学习（Transfer Learning）的详细解释以及区别（系列1）

文章目录前言一、多任务学习（Multi-TaskLearning）是什么？二、多任务学习（Multi-TaskLearning）对数据的要求三、迁移学习是什么？四，迁移学习对数据的要求五，多任务学习与迁移学习的区别是什么？总结前言多任务学习（Multi-TaskLearning）和迁移学习（TransferLearning）是机器学习中的两个重要概念，它们在解决不同的学习任务和应用场景下起着不同的

小桥流水---人工智能·2023-12-16 12:30

UNDERSTANDING AND IMPROVING INFORMATION TRANSFER IN MULTI-TASK LEARNING

Zi_ii=XiRiX_iR_iXiRi，XXX是Taskembeddinglayers，RRR是Alignmentmatrices辅助信息作者未提供代码

宇来风满楼·2023-12-05 08:04

CONTROLLING VISION-LANGUAGE MODELS FOR MULTI-TASK IMAGE RESTORATION

CONTROLLINGVISION-LANGUAGEMODELSFORMULTI-TASKIMAGERESTORATION(Paperreading)ZiweiLuo,UppsalaUniversity,ICLRunderreview(6663),Cited:None,Stars:350+,Code,Paper.1.前言像CLIP这样的视觉语言模型已经显示出对零样本或无标签预测的各种下游任务的巨大

努力学图像处理的小菜·2023-11-30 08:47

阅读记录【NeurIPS2021】Federated Multi-Task Learning under a Mixture of Distributions

FederatedMulti-TaskLearningunderaMixtureofDistributionsLink:https://proceedings.neurips.cc/paper_files/paper/2021/hash/82599a4ec94aca066873c99b4c741ed8-Abstract.html混合分布下的联邦多任务学习Multi-TaskLearning(MTL

furoto_·2023-11-26 08:28

Multi-task Adversarial Learning for Semi-supervised Trajectory-User Linking

该论文发表于2022年的ECMLPKDD。创新点：1.对轨迹进行补全操作，并且使用卡尔曼滤波器进行细粒度的位置补全。2.在轨迹补全时补全的是轨迹缺失点所在的单元区域，这样容易建模。3.采用对抗学习的半监督方式来解决TUL问题。4.在数据分布级别而不是一对一匹配的方式解决TUL问题。思考：1.数据分布级别对于大量轨迹补全与轨迹特征提取工作量很大。2.需要完整的轨迹作为标签，在实际应用中可能没有条件。

小瘪️·2023-11-12 01:16

论文解读-Multi-task Network Cascades>

论文题目：《Instance-awareSemanticSegmentationviaMulti-taskNetworkCascades》论文信息：CVPR2016,JifengDai,KaimingHe,JianSun,MicrosoftResearch论文：https://arxiv.org/abs/1512.04412作者主页：http://research.microsoft.com/en

海边的第八只螃蟹·2023-11-05 21:53

ESMM:Entire Space Multi-Task Model: An Effective Approach forEstimating Post-Click Conversion Rat...

论文地址：EntireSpaceMulti-TaskModel:AnEffectiveApproachforEstimatingPost-ClickConversionRate摘要精确的估算点击后转化率（CVR）对工业中推荐和广告场景等来说是至关重要的。传统的CVR模型采用了是最近流行的深度模型并且获得了一个最卓越的性能。然而在实际中在特殊任务的场景遇到了一些问题，是得CVR建模具有挑战性。例

爿臣戈王耑·2023-11-05 07:29

minigpt-v2:large language model as a unified interface for vision-lanuage multi-task learning

1.introduction不同任务下的回答不同，提出一种以任务为导向的指导训练方法，为每个人物提供一个独特的任务标识符token，为训练视觉问答任务的所有数据样本提供一个[vqa]标识符token，总共提供6个不同的任务标识符。2.method2.1modelarchitecturevisionbackbone：采用EVA作为视觉backbone，在全部训练中都冻结，图像分辨率为448x448，

Kun Li·2023-10-28 09:01

Multi-class, Multi-label 以及 Multi-task classification

Multiclassclassification就是多分类问题，比如年龄预测中把人分为小孩，年轻人，青年人和老年人这四个类别。Multiclassclassification与binaryclassification相对应，性别预测只有男、女两个值，就属于后者。Multilabelclassification是多标签分类，比如一个新闻稿A可以与{政治，体育，自然}有关，就可以打上这三个标签。而新闻

Williamongh·2023-10-27 09:06

多模态融合 - BEVFusion: Multi-Task Multi-Sensor Fusion with Unified Bird‘s-Eye View Repre ... (ICRA 2023)

BEVFusion:Multi-TaskMulti-SensorFusionwithUnifiedBird's-EyeViewRepresentation-基于统一BEV表示的多任务多传感器融合（ICRA2023）摘要1.引言2.相关工作3.方法3.1统一表述3.2高效相机到BEV转换3.3完全卷积融合3.4多任务头4.实验4.13D目标检测4.2BEV地图分割5.分析6.结论References

77wpa·2023-10-21 14:31

多任务学习（Multi-task Learning）

浅谈多任务学习https://zhuanlan.zhihu.com/p/348873723机器学习技术：多任务学习综述！https://zhuanlan.zhihu.com/p/607309853

云雨无欢丶·2023-10-21 06:19

Multi-Task

Multi-TaskLearningUsingUncertaintytoWeighLossesforSceneGeometryandSemantics

悠悠渔隐·2023-10-20 16:42

人群密度估计--CNN-based Cascaded Multi-task Learning of High-level Prior and Density Estimation for Crowd

CNN-basedCascadedMulti-taskLearningofHigh-levelPriorandDensityEstimationforCrowdCountingInternationalConferenceonAdvancedVideoandSignalBasedSurveillance(AVSS)2017Torch:https://github.com/svishwa/crowd

O天涯海阁O·2023-10-15 20:39

Joint Face Detection and Alignment using Multi-task Cascaded Convolutional Networks

论文地址：JointFaceDetectionandAlignmentusingMulti-taskCascadedConvolutionalNetworks使用多任务级联卷积网络的联合人脸检测和对准摘要：由于姿势、光照或遮挡等原因，在非强迫环境下的人脸识别和对齐是一项具有挑战性的问题。最近的研究显示，深度学习算法可以很好的解决上述的两个问题。在这篇文章中，我们利用检测和校准之间固有的相关性在深度

cv_tm·2023-09-21 21:18

Language Adaptive Weight Generation for Multi-task Visual Grounding 论文阅读笔记

LanguageAdaptiveWeightGenerationforMulti-taskVisualGrounding论文阅读笔记一、Abstract二、引言三、相关工作3.1指代表达式理解3.2指代表达式分割3.3动态权重网络四、方法4.1总览4.2语言自适应权重生成语言特征聚合权重生成4.3多任务头4.4训练目标五、实验5.1数据集和评估指标数据集评估指标5.2实施细节训练推理5.3与SOA

乄洛尘·2023-09-21 14:06

论文精读 —— Gradient Surgery for Multi-Task Learning

文章目录Multi-taskLearning和PCGrad方法简介论文信息论文核心图摘要翻译引言翻译2使用PCGrad进行多任务学习2.1基本概念：问题和符号表示2.2三重悲剧：冲突的梯度，主导的梯度，高曲率2.3PCGrad：解决梯度冲突2.4PCGrad的理论分析3PCGrad在实际应用中参考文章Multi-taskLearning和PCGrad方法简介多任务学习(Multi-taskLear

Waldocsdn·2023-09-06 16:54

17.3.13 多任务学习 Multi-task learning

由于最近要读一篇用MTL来解决人脸识别的问题，所以提前学习一下MTL。本文主要内容摘自#DeepLearning回顾#之多任务学习多任务学习（multi-tasklearning，MTL)，从字面的意思就能理解是多个任务同时进行学习的一种方法。单任务学习就是忽略任务之间的联系，单独的进行学习的方法。相比于单任务学习方法而言，多任务学习更加注重的每个样本之间的联系和差异，联合学习。这是一种归纳迁移机

MQTXWD·2023-08-30 10:34

LLMs多任务指令微调Multi-task instruction fine-tuning

多任务微调是单任务微调的扩展，其中训练数据集包括多个任务的示例输入和输出。在这里，数据集包含指导模型执行各种任务的示例，包括摘要、评论评分、代码翻译和实体识别。您在这个混合数据集上训练模型，以便它可以同时提高模型在所有任务上的性能，从而避免灾难性遗忘的问题。经过多次迭代的训练，使用示例计算的损失用于更新模型的权重，从而产生一个已经学会如何同时擅长多种不同任务的指导模型。多任务微调的一个缺点是它需要

AI架构师易筋·2023-08-27 09:13

论文阅读 [TPAMI-2022] Model-Protected Multi-Task Learning

论文阅读[TPAMI-2022]Model-ProtectedMulti-TaskLearning论文搜索(studyai.com)搜索论文:Model-ProtectedMulti-TaskLearning搜索论文:http://www.studyai.com/search/whole-site/?q=Model-Protected+Multi-Task+Learning关键字(Keywords

北岭狼人·2023-08-07 15:40

CrossInfoNet: Multi-Task Information Sharing Based Hand Pose Estimation总结

文章链接摘要单深度图2D卷积预测手势将手势估计任务拆分为手掌关节点预测子任务和手指关节点预测子任务，两个子任务之间共享互补有益信息提出基于2D热图监督训练手部特征提取网络介绍当前主流方法直接把深度图当作2D图片使用2D卷积提取特征将深度图(2.5D)转化为3D体素模型，能大幅度复原3D空间信息，但计算量巨大多任务共享信息的方式相较于单任务能保留更多固有信息，具有更好的泛化能力本文基于上述思想，考虑

中了胖毒·2023-07-29 19:55

CTR预估论文精读(十七)--ESMM: Entire Space Multi-Task Model

ESMM:EntireSpaceMulti-TaskModel:AnEﬀectiveApproachforEstimatingPost-ClickConversionRate论文总结本文介绍阿里妈妈团队发表在SIGIR’2018的论文《EntireSpaceMulti-TaskModel:AnEﬀectiveApproachforEstimatingPost-ClickConversionRate

dby_freedom·2023-07-26 00:29

【论文精读】InstructUIE: Multi-task Instruction Tuning for Unified Information Extraction

InstructUIE:Multi-taskInstructionTuningforUnifiedInformationExtraction前言Abstract1.Introduction2.Methodology2.1InstructionTuningBackground2.2Framework2.2.1TaskSchemaTaskInstructionOptionsTextOutput2.2.

HERODING77·2023-06-19 07:03

论文笔记-Multi-Task Learning as Multi-Objective Optimization

Intro在深度学习，使用多个任务（loss）训练模型时，通常使用最小化加权线性和的方式来训练整个模型。但是这要求多任务之间不存在相互竞争。因此作者提出新的多任务学习方法，将多任务学习转化成多目标优化问题，借助凸优化问题求帕累托（pareto）最优解。method问题定义对一个输入空间X和任务集合空间{Yt}t∈[T]\left\{\mathcal{Y}^t\right\}_{t\in[T]}{Y

chenxino·2023-06-17 08:14

Adaptive Weight Assignment Scheme For Multi-task Learning

AdaptiveWeightAssignmentSchemeForMulti-taskLearning题目AdaptiveWeightAssignmentSchemeForMulti-taskLearning译题用于多任务学习的自适应权重分配方案时间2022年期刊/会议IAESInternationalJournalofArtificialIntelligence(IJ-AI)摘要：如今，基于深度

uuu_柚子·2023-04-21 14:22

【多任务】——Multi-Task Learning as Multi-Objective Optimization代码阅读

code:https://github.com/isl-org/MultiObjectiveOptimization论文：Multi-TaskLearningasMulti-ObjectiveOptimization目录1.论文简单解读2.实验3.代码浅读1.论文简单解读将任何满足这些条件的解都称为帕累托平稳点。尽管每个帕累托最优点都是帕累托平稳的，但反之并不一定成立。考虑优化问题。简单来说，帕累

农夫山泉2号·2023-04-10 16:16

目标检测之Loss：FasterRCNN中的SmoothL1Loss

多任务损失（来自FastR-CNN）multi-task数据结构FastR-CNN网络有两个同级输出层（clsscore和bbox_prdict层），都是全连接层，称为multi-task。

BigCowPeking·2023-04-04 21:25

2021：多任务预训练的跨模态自注意力的医学视觉问答Cross-Modal Self-Attention with Multi-Task Pre-Training for Medical VQA

摘要由于缺乏标签的数据，现有的医学视觉问答往往依赖于转移学习获取图像特征表示，使用视觉和语言特征跨模态融合实现与问题相关的答案预测。这两个阶段单独执行，没有考虑预训练特征的跨模态融合的相容性和适用性。因此我们将图像特征预训练重新定义为一个多任务学习范式，迫使它考虑到特定图像理解任务中特征的适用性。此外，我们引入了一种跨模态自注意力模块（CMSA）有选择的捕捉长期的上下文相关性，以更有效的融合视觉和

weixin_42653320·2023-03-29 02:01

论文笔记 | KDD2018 | Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Ex...

mmoe-title.jpg论文地址：https://www.kdd.org/kdd2018/accepted-papers/view/modeling-task-relationships-in-multi-task-learning-with-multi-gate-mixture-非官方代码：https://github.com/drawbridge/keras-mmoe一为什么读这篇动机是做

ktulu7·2023-03-16 01:14

Multi-task Learning 理论(多任务学习)

一.多任务学习理论1.1多任务学习的定义如果有个任务（传统的深度学习方法旨在使用一种特定模型仅解决一项任务），而这个任务或它们的一个子集彼此相关但不完全相同，则称为多任务学习（以下简称为MTL）。通过使用所有个任务中包含的知识，将有助于改善特定模型的学习多任务学习本质上是迁移学习的一种方式，通过共享表示信息，同时学习多个相关任务，使这些任务取得比单独训练一个任务更好的效果，可以在一定程度上缓解模型

晓柒NLP与药物设计·2023-03-15 11:31

Joint Learning 与 Multi-Task Learning浅析

JointLearning和Multi-TaskLearning都属于集成学习（EnsembleLearning）的范畴，但网上关于JointLearning的相关资料较少，因此在这里对这两种学习方式进行简要介绍，并对其不同点进行区分。JointLearningJointLearning是指模型中存在多个子任务，而我们可以将这些子任务一起训练。这么说起来有点抽象，可以举个简单的例子。比如在深度学习

_吟游诗人·2023-03-14 07:50

Joint Face Detection and Alignment using Multi-task Cascaded Convolutional Networks 笔记

这是2016年发的文章。Abstract由于不同的姿势，照明，遮挡等原因，在不受控制的环境下人脸检测和对齐是具有挑战性的。在这篇文章中，提出了一个深度级联的多任务框架，它能够探索人脸检测和人脸对齐的内在关系来提高他们的表现。特别是，我们的框架利用了经过精心设计的三个阶段的深层卷积网络的级联架构，以粗略的方式预测人脸和地标位置。（landmarklocation指的什么？）Introduction人

晨光523152·2023-02-17 22:38

Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts

基于神经网络的大规模多任务学习在产业界有广泛的应用，例如推荐系统。为什么现在的推荐系统会追求多任务呢？以头条类的新闻推荐为例，如果只追求点击率，那么封面党会大行其道，所以一般还会把阅读时长也作为一个目标。再比如短视频推荐，平台方更希望给用户带来更好的体验，例如长时间播放、点赞、高评分等。因此，我们可能需要针对多个目标进行建模，追求多目标之间的平衡或者共赢。借助多任务学习，我们的目标是构建一个统一模

知识碎片·2023-02-17 00:03

Faster RCNN的一些Note

最后是一个multi-task模型，一部分是分类任务，区分对应图片是背景还是含有object，对应的object是什么；另一部分是一个回归任务，做了bboxregression。

cqtwow·2023-02-07 04:00

[论]【ST-MRGNN】Joint Demand Prediction for Multimodal Systems: A Multi-task Multi-relational

JointDemandPredictionforMultimodalSystems:AMulti-taskMulti-relationalSpatiotemporalGraphNeuralNetworkApproach原文链接：见ST-MRGNN作者：YuebingLiang,GuanHuang,ZhanZhao期刊：ComputerScience>MachineLearning关键字：需求预测·

panbaoran913·2023-02-01 17:38

《Multi-task Learning based Pre-trained Language Model for Code Completion》阅读

Multi-taskLearningbasedPre-trainedLanguageModelforCodeCompletion目录Multi-taskLearningbasedPre-trainedLanguageModelforCodeCompletionABSTRACT1INTRODUCTION2BACKGROUND2.1StatisticalLanguageModel2.2Multi-ta

专心致志写BUG·2023-01-29 20:14

Multi-task Learning(Review)多任务学习概述

点击上方，选择星标或置顶，每天给你送干货！阅读大概需要21分钟跟随小博主，每天进步一丢丢作者丨Anticoder专栏丨Optimazer'sGarden整理丨机器学习算法与自然语言处理https://zhuanlan.zhihu.com/p/59413549背景：只专注于单个模型可能会忽略一些相关任务中可能提升目标任务的潜在信息，通过进行一定程度的共享不同任务之间的参数，可能会使原任务泛化更好。广

zenRRan·2023-01-29 10:52

2021 ACL Parameter-efficient Multi-task Fine-tuning for Transformers via Shared Hypernetworks

Parameter-efficientMulti-taskFine-tuningforTransformersviaSharedHypernetworks阅读这篇文章的目的是为了了解hypernet，相关代码https://github.com/rabeehk/hyperformerparameter-efficientfine-tuning的方法依赖于引入一个adaptermodule。这篇文章

文三路张同学·2023-01-26 08:56

【论文导读】- SpreadGNN: Serverless Multi-task Federated Learning for Graph Neural Networks（去服务器的多任务图联邦学习）

文章目录论文信息摘要SpreadGNNFramework用于图层次学习的联邦图神经网络图神经网络的联邦多任务学习SpreadGNNDPA-SGD的收敛性质实验总结论文信息SpreadGNN:ServerlessMulti-taskFederatedLearningforGraphNeuralNetworks原文链接：SpreadGNN:ServerlessMulti-taskFederatedLe

1 + 1=王·2023-01-24 23:36

《A Multi-task Learning Model for Chinese-oriented Aspect Polarity Classification and Aspect Term》笔记

AMulti-taskLearningModelforChinese-orientedAspectPolarityClassificationandAspectTermExtraction（面向中文的方位极性分类和方位项提取的多任务学习模型）学习笔记论文亮点本文提出了一个联合模型用于aspecttermextraction（方面项提取）和aspectpolarityclassification（a

经十东路31699号·2023-01-14 08:41

目标检测、谓词组合网络检测和显著性检测——day62 读论文: Multi-task Compositional Network for Visual Relationship Detection

视觉关系检测的多任务组合网络Multi-taskCompositionalNetworkforVisualRelationshipDetection1Introduction2RelatedWork3TheMCN（多任务组合网络）3.1TheProbabilisticModelofMCN3.2TheArchitectureofMCN3.2.1ObjectDetector3.2.2Relations

想太多!·2023-01-13 16:23

Multi-Task Learning Using Uncertainty to Weigh Losses for Scene Geometry and Semantics

动机：Inthispaperwemaketheobservationthattheperformanceofsuchsystemsisstronglydependentontherelativeweightingbetweeneachtask’sloss.Weproposeaprincipledapproachtomulti-taskdeeplearningwhichweighsmultiplel

64318@461·2023-01-10 11:36

Multi-Task GANs for View-Specific Feature Learning in Gait Recognition论文翻译以及理解

Multi-TaskGANsforView-SpecificFeatureLearninginGaitRecognition论文翻译以及理解今天想尝试一下翻译一篇自己读的论文。写的不好，后续慢慢改进。Abstract Abstract—Gaitrecognitionisofgreatimportanceinthefieldsofsurveillanceandforensicstoidentifyh

cool whidpers·2023-01-10 11:06

【ESMM论文精读】Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion

文章目录原始论文摘要(ABSTRACT)关键词(KEYWORDS)1.介绍(INTRODUCTION)2.提出的方法THEPROPOSEDAPPROACH2.1符号Notation2.2CVR建模和挑战CVRModelingandChallenges(1)样本选择偏差Sampleselectionbias(SSB)[12](2)数据稀疏性Datasparsity(DS)(3)其他挑战otherch

哈喽十八子·2023-01-08 15:30

快速了解推荐系统多任务学习

其实这就是Multi-task多任务

怼怼是酷盖·2023-01-02 08:49

精读论文：Multi-Task Learning as Multi-Objective Optimization(附翻译)

Multi-TaskLearningasMulti-ObjectiveOptimization本文只看到了MGDA前，没有仔细看实验部分和MGDAupperbound，是最近看过的最难的文章了，恰好看这篇论文的时候小孙感冒了，好难受啊啊啊啊啊目录Multi-TaskLearningasMulti-ObjectiveOptimization一、总结1.multitask的一般形式2.将多任务学习转为

菜菜的小孙同学·2023-01-01 14:54

Heterogeneous Multi-task Learning for Human Pose Estimation with Deep Convolutional Neural Network

HeterogeneousMulti-taskLearningforHumanPoseEstimationwithDeepConvolutionalNeuralNetwork论文题目HeterogeneousMulti-taskLearningforHumanPoseEstimationwithDeepConvolutionalNeuralNetwork,链接该篇论文是IJCV2014的,文章的核

_menglan_Zi·2022-12-29 03:35

推荐频道