Meta-Learning 第3页

Multimodal Model-Agnostic Meta-Learning via Task-Aware Modulation（翻译）

基于任务感知调制的多模态模型不可知元学习摘要模型不相关的元学习的目的是从相似任务中获得元学习参数，从而只通过少量的梯度更新来适应与任务同分布的新任务。由于在模型选择上的灵活性，这些框架在多个领域上展示了引人注目的性能，比如小样本图像分类和强化学习。然后，这种框架的其中一个重要的限制是它们寻求整个任务分布的公共初始参数，这极大的限制了框架能够学习的任务分布的多样性。在本文中，我们增加了MAML从多模

qq_36514344·2022-06-07 07:28

Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks Chelsea 论文笔记

前言本文提出了一种元学习算法，它与模型无关并且通用性很强，可以直接应用到各种由梯度下降训练的模型上，并且适用于很多学习问题，包括分类，回归和强化学习。本文提出的算法的关键思想是训练模型的初始化参数，这样当模型在处理来自一个新任务的少量数据时，通过一次或几次梯度更新后，模型就能在新任务中表现出较好的性能。本文的元学习算法有以下特点：不同于以往的元学习方法需要学习更新函数或更新规则，本文的方法既不增加

头柱碳只狼·2022-06-07 07:57

《Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks 》论文总结

摘要：我们提出了一种不依赖模型的元学习算法，它与任何梯度下降训练的模型兼容，适用于各种不同的学习问题，包括分类、回归和强化学习。元学习的目标是在各种学习任务上训练一个模型，这样它只需要少量的训练样本就可以解决新的学习任务。在我们的方法中，模型的参数被显式地训练，使得少量的梯度步骤和少量的来自新任务的训练数据能够在该任务上产生良好的泛化性能。实际上，我们的方法训练模型易于微调。结果表明，该方法在两个

Smiler_·2022-06-07 07:45

#Paper Reading# Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks

论文题目:Model-AgnosticMeta-LearningforFastAdaptationofDeepNetworks论文地址:http://proceedings.mlr.press/v70/finn17a论文发表于:ICML2017（CCFA类会议）论文所属单位:OpenAI论文大体内容：本文主要提出了与模型无关的MetaLearning框架，能够用于有效解决few-shotlearn

John159151·2022-06-07 07:13

【MAML】：Model-Agnostic Meta-Learning

birds-of-passage·2022-06-07 07:12

论文阅读笔记《Meta-learning with Latent Embedding Optimization》

小样本学习&元学习经典论文整理||持续更新核心思想本文提出一种基于参数优化的小样本学习算法（LEO），与MAML，Meta-SGD算法相比，本文最重要的改进就是引入了一个低维的隐空间（LatentSpace）。为了方便理解本文，我们首先回顾一下MAML算法，其目标是通过元训练得到一个好的初始化模型θ\thetaθ，使得模型能够通过少量样本的微调训练就能快速的适应任务需求，得到任务Ti\math

深视·2022-06-06 07:15

MAML笔记

《Model-AgnosticMeta-LearningforFastAdaptationofDeepNetworks》提出一种meta-learning算法，即MAML，使模型能自动进行参数的初始化，

联邦学习小白·2022-06-04 07:34

Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks阅读笔记

Model-AgnosticMeta-LearningforFastAdaptationofDeepNetworks-阅读笔记AbstractMAML算法问题设置MAML算法MAMLvsPre-training梯度求解其他部分Abstract本文是针对meta-learning

kevin小新·2022-06-04 07:55

论文笔记之MAML

MAML(Model-Agnostic-Meta-Learning)是Meta-learning(即元学习，又叫Learn-to-Learn)的其中一个类别。

Ton10·2022-06-04 07:05

MAML论文阅读笔记--回归实验

元学习(Meta-learning)与机器学习算法不同，不是先人为调参，然后在特定训练任务下训练模型，而是希望模型获取一种学会学习调参的能力，使其在新任务的小样本集上快速学习新任务。

喝过期的拉菲·2022-06-04 07:28

Self-Supervision & Meta-Learning for One-ShotUnsupervised Cross-Domain Detection

参考Self-Supervision&Meta-LearningforOne-ShotUnsupervisedCross-DomainDetection-云+社区-腾讯云摘要深度检测模型在受控环境下非常强大，但在不可见的领域应用时却显得脆弱和失败。所有改进该问题的适配方法都是在训练时获取大量的目标样本，这种策略不适用于目标未知和数据无法提前获得的情况。例如，考虑监控来自社交媒体的图像源的任务：由于

Wanderer001·2022-05-21 07:49

Meta-Transfer Learning for Few-Shot Learning 论文笔记

前言元学习（meta-learning）是目前广泛使用的处理小样本学习问题的方法，它的目的是在学习不同任务的过程中积累经验，从而使得模型能够快速适应新任务。

头柱碳只狼·2022-05-21 07:57

元学习之《On First-Order Meta-Learning Algorithms》论文详细解读

元学习系列文章optimizationbasedmeta-learning《Model-AgnosticMeta-LearningforFastAdaptationofDeepNetworks》论文翻译笔记元学习方向optimizationbasedmetalearning之MAML论文详细解读MAML源代码解释说明(一)MAML源代码解释说明(二)元学习之《OnFirst-OrderMeta-L

田小成plus·2022-04-11 07:44

【调研】用「图神经网络」解决「小样本」分类问题（上）

目录GNNTaxonomyStructureBasicGNNFew-shot：Meta-Learning模型一：2019.11：Meta-GNN动机方法取样本元训练元测试模型二：2020.10：AwGC

vector<>·2022-04-08 08:28

【论文分享】★★★ 小样本网络异常检测方法 GDN：Few-shot Network Anomaly Detection via Cross-network Meta-learning

题目：Few-shotNetworkAnomalyDetectionviaCross-networkMeta-learning源码：-时间：2021.02链接：https://arxiv.org/pdf/2102.11165.pdf机构：亚利桑那州立大学会议：WWW（CCF-A）摘要：本文提出了一种新的图神经网络系列：图偏差网络(GDN)，它可以利用少量标记的异常来加强网络中异常节点和正常节点之间

vector<>·2022-04-08 08:36

【论文分享】GNN+小样本文本分类方法：Meta-GNN: On Few-shot Node Classification in Graph Meta-learning

题目：Meta-GNN:OnFew-shotNodeClassificationinGraphMeta-learning会议：CIKM（CCF-B）链接：https://dl.acm.org/doi/pdf/10.1145/3357384.3358106源码：https://github.com/AI-DL-Conference/Meta-GNN时间：2019年11月摘要：用GNN来实现小样本分类

vector<>·2022-04-08 08:35

Federated Meta-Learning with Fast Convergence and Efficient Communication 论文阅读笔记+关键代码解读

论文地址点这里一.介绍联邦学习中数据是非独立同分布的，基于FedAvg算法成功后，作者发现元学习算法MAML应对客户端上数据量较少，数据分布不均的场景提出了FedMeta框架，作为连接元学习方法和联邦学习的桥梁。在元学习中，参数化算法通过元训练过程从大量任务中慢慢学习，在元训练过程中，算法在每个任务中快速训练特定的模型。任务由互不关联的支持集和查询集组成。在支持集上训练特定的模型，然后在查询集上进

编程龙·2021-11-26 16:01

元学习深度解析

引言元学习（meta\mathrm{meta}meta-learning\mathrm{learning}learning）是过去几年最火爆的学习方法之一，各式各样的paper\mathrm{paper

鬼道2021·2021-11-12 15:47

Meta-Learning之Meta-SGD

这篇文章是MAML的提升版本，结合了Meta-LSTM的思想，生成一种新的元学习算法。由于这种算法自行设计了学习率和优化方向来获取新的参数，这种做法和SGD很像，因此作者取名为——Meta-SGD。参考列表：①Meta-SGD论文阅读笔记②MAML与Meta-SGDMeta-SGD:LearningtoLearnQuicklyforFew-ShotLearning1MAML1.1简介1.2优势1.

Ton10·2021-10-21 22:16

【联邦元学习】论文解读：Federated Meta-Learning for Fraudulent Credit Card Detection

论文：ZhengW,YanL,GouC,etal.FederatedMeta-LearningforFraudulentCreditCardDetection[C],ProceedingsoftheTwenty-NinthInternationalJointConferenceonArtificialIntelligenceSpecialTrackonAIinFinTech.Pages4654-4

_Blueblue_·2021-09-03 16:36

【联邦元学习】读懂Per-FedAvg个性化联邦学习：Personalized Federated Learning: A Meta-Learning Approach

论文：FallahA,MokhtariA,OzdaglarA.PersonalizedFederatedLearning:AMeta-LearningApproach[J].arXivpre-printserver,2020.这篇文章提出了FedAvg的变体——Per-FedAvg，旨在解决联邦学习中的个性化问题。在联邦学习中结合元学习模型MAML，试图找出一个全局模型，使之在每个节点针对其自身的

_Blueblue_·2021-09-02 14:39

【联邦元学习】一文秒懂FedMeta框架：Federated Meta-Learning with Fast Convergence and Efficient Communication

论文：ChenF,LuoM,DongZ,etal.FederatedMeta-LearningwithFastConvergenceandEfficientCommunication[J].arXiv,2018.华为的一篇结合联邦学习和元学习的论文：在联邦框架下，基于MAML或Meta-SGD构建FedMeta模型。【原创，转载需标明出处】论文解析（内含论文原文、代码链接）：https://rip

_Blueblue_·2021-09-01 14:02

论文阅读:Personalized Federated Learning:A Meta-Learning Approac

论文名字PersonalizedFederatedLearning:AMeta-LearningApproach来源年份2020.10.23作者AlirezaFallah,AryanMokhtari,AsumanOzdaglar核心点使用metalearning实现联邦学习的个性化（差异化训练）阅读日期2021.5.28影响因子页数29引用数引用内容总结文章主要解决的问题及解决方案：主要针对联邦学

三金samkam·2021-06-02 16:32

论文笔记：Few-Shot Segmentation Without Meta-Learning : A Good Transductive Inference Is All You Need

好久好久没有记录笔记了~感觉还是分享出来的印象更深刻一些~让自己多思考一点点摘要：inference的方式对fsl的分割任务性能有着巨大的影响，而这一点往往被其他论文忽视，转而偏向元学习的范式。文章提出了transductive的inference方式，即：对每个queryimage，统计其unlabeled像素的信息，通过优化包含三个互补项的新损失1.intro目前常见的FSL论文都是基于元学习

咖喱波特·2021-04-17 20:30

[小样本分割]Few-Shot Segmentation Without Meta-Learning: A Good Transductive Inference Is All You Need?

没有元学习的Few-Shot分割:一个好的转导推理是你所需要的吗?（CVPR2021）本文的从构建推理过程入手，而非对网络结构进行设计，巧妙利用了转导推理实现了超高的性能！文章的方法部分全是数学推导，比较晦涩关于什么是转导推理可以参考博文：https://www.cnblogs.com/huty/p/8517867.html论文地址开源代码摘要我们表明，在Few-Shot分割任务中执行推理的方式对

XL_Dylan·2021-04-13 15:45

Few-Shot Segmentation Without Meta-Learning: A Good Transductive Inference Is All You Need?阅读笔记

首先声明一下，是个刚入门的小菜鸡，大部分里面的内容都带有了自己的理解。如果发现哪里有问题，欢迎指正！本文引入了一种转换推理，通过优化一个新的损失函数，利用了任务中的无标签像素，这个损失包含三个部分：1.在标签像素上的标准交叉熵；2.在无标签像素上的后验熵；3.基于预测前景区域部分的一个全局KL正则器。本文使用了提取特征的一个简单的线性分类器，拥有与推理方法（inductiveinference）可

喵喵喵喵诺·2021-03-31 17:38

Federated Meta-Learning with Fast Convergence and Efficient Communication论文阅读笔记

本文通过实验说明meta-learning是解决这些问题的自然选择，并且提出了一个联邦元学习的框架FedMeta。和联邦学习相比，联邦元学习只共享meta-learner，而不是一整个模型。

LauraXv·2021-03-03 16:20

Meta-Learning with Memory-Augmented Neural Networks 另 LSTM 的 long 和 short 分别指什么

Meta-LearningwithMemory-AugmentedNeuralNetworks这篇论文主要是用拥有外部存储的神经网络通过元学习的方法解决少样本学习问题，论文中提出，LSTM内部的存储不能满足接受新任务后能快速编码大量新信息的需求，但是MANN有长期记忆和短期记忆的能力，通过记忆实现了新信息的快速编码，基于metalearning解决少样本问题。However,thespecific

LWJY雅·2020-09-16 08:13

Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks 读后感

Model-AgnosticMeta-LearningforFastAdaptationofDeepNetworks读后感）论文概述什么是元学习Algorithm1Model-AgnosticMeta-Learning梯度下降更新过程相关实验问题论文概述本篇论文《Model-AgnosticMeta-LearningforFastAdaptationofDeepNetworks》是一篇关于元学习器

熙熙之木·2020-09-16 01:11

Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks翻译

用于快适应深度网络的不依赖于模型的元学习方法MAML是我最近在看的一篇论文，我觉得还算比较重要的一篇文章可惜没有完整的翻译，我在这里对全文进行一个翻译，也帮助我自己理解。只有我认为比较重点部分是我手动翻译的，其余部分皆为机翻，可能读着不是很顺。摘要：我们提出了一种与模型无关的元学习算法，因为它与任何受梯度下降训练的模型兼容，适用于各种不同的学习问题，包括分类，回归和强化学习。元学习的目标是在各种学

种言和的白菜·2020-09-16 01:20

论文阅读笔记《On First-Order Meta-Learning Algorithms》

小样本学习&元学习经典论文整理||持续更新核心思想本文是在MAML的思路上进一步改进，提出一种基于参数优化的小样本学习算法Reptile。首先我们一起回忆一下MAML是如何进行元学习的，在之前的文章中，我们有提到MAML的训练可以分为两个层次：内层优化和外层优化，内层优化就与普通的训练一样，假设网络初始参数为θ0\theta^0θ0，在数据集AAA上采用SGD的方式进行训练后得到参数θ′\th

深视·2020-09-16 01:48

Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks||论文阅读

元学习论文总结||小样本学习论文总结2017-2019年计算机视觉顶会文章收录整理MAML解读：https://blog.csdn.net/weixin_41803874/article/details/89645667Thevideotutorialcanbefoundfrom:ModelAgnosticMetaLearninghttps://www.youtube.com/watch?v=wT

vieo·2020-09-16 01:09

Reptile: On First-Order Meta-Learning Algorithms

//arxiv.org/pdf/1803.02999.pdfCode:https://github.com/openai/supervised-reptileTips：OpenAi的一篇相似MAML的Meta-learning

Seyanh Qiang·2020-09-16 01:57

Few-shot learning（少样本学习）和 Meta-learning（元学习）

目录（一）Few-shotlearning（少样本学习）1.问题定义2.解决方法2.1数据增强和正则化2.2Meta-learning（元学习）（二）Meta-learning（元学习）1.学习微调(LearningtoFine-Tune

fkyyly·2020-09-14 18:15

模型无关元学习/Model-Agnostic Meta-Learning（MAML）源码解读

最近看了好久的MAML源代码，也学了TF，想写篇文章将MAML源码总结出来，揭开MAML的神秘面纱。论文摘要Weproposeanalgorithmformeta-learningthatismodel-agnostic,inthesensethatitiscompatiblewithanymodeltrainedwithgradientdescentandapplicabletoavariety

古航·2020-09-14 03:42

论文阅读笔记 [ICLR 2018] Meta-Learning For Semi-Supervised Few-Shot

半监督小样本分类的元学习论文原文链接：https://arxiv.org/abs/1803.00676摘要在小样本分类中，人们感兴趣的学习算法是，仅根据少量带标记样例训练分类器的算法。元学习是近年来小样本分类研究的一大特色，元学习定义了一个学习算法的参数化模型，并在代表不同分类问题的片段上进行训练，每个片段都有一个小的带标记训练集和相应的测试集。本文中，作者将这种小样本分类模式推进到一个新场景中，

勇敢的仙人掌·2020-09-12 16:55

论文笔记 Meta-Learning for Batch Mode Active Learning

batch模式主动学习的元学习方法摘要什么是batch模式主动学习？挑选一批样例，立刻标注用于训练。优点：最符合逻辑。不必等整个挑选过程完成后，再训练。而是边挑选，边训练。能够最高效地利用人力进行标注。本文的工作是，利用元学习来学习主动学习算法，在一个小训练集上，挑选一组最佳样例（未标注）来标注加入训练。实验结果表明，本文提出的主动学习算法比传统的启发式方法更好。所构建的带标签训练集，能更好地改善

勇敢的仙人掌·2020-09-12 16:23

MAML: Model-Agnostic Meta-Learning

Model-AgnosticMeta-Learning（MAML）模型介绍及算法详解:理解MAML：Model-AgnosticMeta-LearningforFastAdaptionofDeepNetworks

箭shen·2020-09-11 17:53

【论文翻译】One-Shot Visual Imitation Learning via Meta-Learning

读这篇文章给我带来了不小的阻力，有两篇博客在理解上给了我很大的帮助和启发。谢谢他们，顺便附上链接：https://blog.csdn.net/u010909964/article/details/84501919https://zhuanlan.zhihu.com/p/33248019原作中有一些东西我没理解于是直接跳过。Abstract:为了让机器人演示许多任务时具有通用性，机器人需要能在复杂的

猪蒙索洛夫·2020-09-11 17:26

【论文翻译】Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks

开始Abstract本文针对meta-learning提供了一种模型不可知的的算法，适用于任何基于梯度下降的模型，可以应用于不同的学习问题：分类/回归/RL。

猪蒙索洛夫·2020-09-11 17:26

Meta-Learning with Latent Embedding Optimization

LEO思想这是DeepMind写的关于MetaLearning的一篇文章。MAML虽然可以通过少量梯度下降就能找到适应新任务的最优参数，然而对extremelow-dataregimes在高维参数空间上操作时，还是过于不便。而LEO则通过学习关于模型参数的adata-dependentlatentgenerativerepresentation，并在这种低维的latentspace中执行基于梯度下

一刀不二·2020-09-11 16:53

Meta-SR: A Magnification-Arbitrary Network for Super-Resolution阅读笔记

作者受到meta-learning启发，本文提出了Mera-SR，可解决任意放大尺寸的图像超分辨率问题，这样使得SISR可以具有更多的实际应用。论文的整体思路很清晰新颖

骑猪撞地球J·2020-08-22 04:51

Meta-learning（元学习）

Meta-learningmeta-learning是learningtolearnmetalearning是和machinelearning并列的相较于之前的机器学习算法，metalearning是让机器学会学习。传统的机器算法只是希望机器学习到一个函数f，通过这个函数f，来判断这个图片属于究竟属于哪个类别，一条微博的评论是正面还是负面。但是metalearning是希望机器在学习了一些图片分类

hxxjxw·2020-08-21 03:34

元强化学习（1）：Meta-learning in Reinforcement Learning

强化学习在展现其强大学习能力的同时也深受其自身特性的困扰：系统的脆弱性和对超参数的依赖性。这一点在现今的复杂深度强化学习系统中表现的尤为突出。因此，近年来，元强化学习渐渐回归视线，即将基础强化学习方法中手动设定的超参数设定为元参数，通过元学习方法学习和调整元参数，进一步指导底层的强化学习过程。打算最近介绍一个系列，今天先来说说这篇2003年的Meta-learninginReinforcement

南阁风起·2020-08-17 13:48

深度学习课程笔记（十七）Meta-learning (Model Agnostic Meta Learning)

深度学习课程笔记（十七）Meta-learning(ModelAgnosticMetaLearning)2018-08-0912:21:33Thevideotutorialcanbefoundfrom:

a1424262219·2020-08-16 11:25

小样本学习（Few-shot Learning）与元学习(meta-learning)初步

元学习初步1998年，Thrun和Pratt指出，对于一个指定的任务，一个算法“如果随着经验的增长，在该任务上的表现得到改进”，则认为该算法能够学习。与此同时，对于一族待解决的多个任务，一个算法“如果随着经验和任务数量的增长，在每个任务上的表现得到改进”，则认为该算法能够学习如何学习，我们将后者称为元学习算法。它不学习如何解决一个特定的问题，但可以成功学习如何解决多个任务。每当它学会解决一个新的任

Gallant Hu·2020-08-16 09:20

meta-learning 2018文章总结

元学习论文总结||小样本学习论文总结2017-2019年计算机视觉顶会文章收录AAAI2017-2019CVPR2017-2019ECCV2018ICCV2017-2019ICLR2017-2019NIPS2017-2019作者：FloodSung链接：https://zhuanlan.zhihu.com/p/40600485目录1前言2PaperList3State-of-the-Art4最新的

vieo·2020-08-16 09:11

Meta-learning with differentiable closed-form solvers||论文阅读

元学习论文总结||小样本学习论文总结2017-2019年计算机视觉顶会文章收录AAAI2017-2019CVPR2017-2019ECCV2018ICCV2017-2019ICLR2017-2019NIPS2017-2019这里摘抄一段评价：https://www.colabug.com/3795964.html这篇文章的思路就和前面三篇的思路不一样了，采用我们通常理解的metalearning的

vieo·2020-08-16 09:10

科研篇(11)：ICLR20 分类整理-对抗样本&Meta-Learning

文章目录一、对抗样本1.1EnhancingTransformation-BasedDefensesAgainstAdversarialAttackswithaDistributionClassifier.1.2ImplicitBiasofGradientDescentbasedAdversarialTrainingonSeparableData1.3MixupInference:BetterEx

Leeyegy·2020-08-16 09:32

Meta-Learning for Semi-Supervised Few-Shot Classification. （用于半监督少样本分类的元学习）

1.摘要在少样本分类中，我们关注于学习一个可以用很少的标记数据训练一个分类器的算法。最近的少样本分类任务以使用元学习为主要特征。元学习中一个算法对应的一个参数化模型在表示不同分类任务的episode(剧集，情节)上面定义和训练，每一个episode中有自己的少量标记样本的训练集和对应的测试集。本文中，我们把这种少样本分类的范式推广到一种新的场景：每个episode中未标记的数据也是可用的。我们考虑

CaoChengtai·2020-08-16 09:58

推荐频道

Meta-Learning