understanding 第6页

Understanding Neural Networks via Feature Visualization: A survey（2）

综述太长，分两部分写。文章第二部分介绍了PlugandPlayGenerativeNetworks这篇文章中提到了一个概率解释公式，在这个公式下解释其它的AM理论，AM需要两个（1）一个图像先验，（2）一个我们想可视化的分类网络实际实验中我们常常只想激活一个,但是经常会同时让其它地神经元（同层其他的甚至深层的）也增大了（就是类别相通性，羚羊一型的神经元被最大激活，羚羊二型也会被激活），因此无法保证

我不懂你教不·2023-03-09 18:13

自监督学习-论文笔记

关于这几个方法有一个博客值得一看：https://generallyintelligent.ai/blog/2020-08-24-understanding-self-supervised-contrastive-learning

xueliang_·2023-03-09 11:42

BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

1.简介大名鼎鼎的BERT，基于目前流行的transformer结构，一经推出就刷新了11个NLP任务的SOTA。并且模型可以直接接入到下游任务，从而受到广大机器学习从业者的追捧。那么bert到底是什么呢？bert的作者声称，预训练的下游任务有两种：A.整句级别的，关注句子之间关系的自然语言推断和句子释义。B.单词级别的，比如命名实体识别和问答。预训练模型如何使用也有两种流派：基于特征和基于精调。

0_oHuanyu·2023-03-09 05:58

python 赋值浅拷贝深拷贝

参考：https://www.runoob.com/w3cnote/python-understanding-dict-copy-shallow-or-deep.html赋值：变量直接指向对象ls=[iforiinrange

jenye_·2023-02-17 07:33

【论文精读】BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

自然语言处理（NaturalLanguageProcessing，NLP）领域内的预训练语言模型，包括基于RNN的ELMo和ULMFiT，基于Transformer的OpenAIGPT及GoogleBERT等。预训练语言模型的成功，证明了我们可以从海量的无标注文本中学到潜在的语义信息，而无需为每一项下游NLP任务单独标注大量训练数据。此外，预训练语言模型的成功也开创了NLP研究的新范式，如上图所示

拟禾·2023-02-16 21:57

LSTMCell中num_units参数解释

前言关于LSTM原理：http://colah.github.io/posts/2015-08-Understanding-LSTMs/关于LSTM原理（译文）：https://blog.csdn.net

琥珀彩·2023-02-07 07:22

WhyUnderstandingMutualWeMust

Understanding,asweallknow,playsanindispensableroleinourdailylife.Whenitcomestothetopicofunderstanding

给丹丹奥利奥叭·2023-02-06 03:19

Have a good understanding of people who do great things

HereareKobe’ssayingofTaylor.Thatwassoimpressedandmotivationaltome.Kobesaid:Ithinkit’simportanttolistentopeoplewhodogreatthings.Youknow,soit’snotjustgene-specific.Butit’slike,youknow,Taylorhasbeenatthe

A_JEAN·2023-02-05 13:15

Rasa: OpenSource Language Understanding and Dialogue Management 翻译

Rasa:OpenSourceLanguageUnderstandingandDialogueManagement摘要这是一个用于构建会话系统的开源python库，主要由两个部分构成RasaNLU（自然语言理解）和RasaCore（对话管理），这两个软件包都有大量文档，并附带一套全面的测试。该代码地址：https://github.com/RasaHQ/1简介2相关工作Rasa的API使用了来自s

weixin_30299539·2023-02-05 10:41

Understanding @StateObject in SwiftUI for iOS 14

切换注释的地方，就知道效果了importSwiftUIclassCounter:ObservableObject{@Publishedvarcount:Int=0}structCounterView:View{//@ObservedObjectvarcounter=Counter()@StateObjectvarcounter=Counter()varbody:someView{VStack{Te

Scott丶Wang·2023-02-04 18:12

人群分析综述--Crowd Scene Understanding from Video: A Survey

CrowdSceneUnderstandingfromVideo:ASurveyACMTrans.MultimediaComput.Commun.Appl.,Vol.13,No.2,Article19,Publicationdate:March2017针对人群密集场景理解，这篇综述主要关注两个方向：crowdstatisticsandbehaviorunderstanding人群统计和行为理解2C

O天涯海阁O·2023-02-03 16:40

明天19:00 | SCITIC 论坛：阿尔兹海默症、蛋白质语言模型、纳米生物医学

活动议程19:00-19:30GuorongWu：DiscoveringNovelMechanismsforAlzheimer'sDiseasebyMachineLearning19:30-20:00付杰：Understanding

AITIME论道·2023-02-03 07:22

LSTM简易说明

原文地址：https://colah.github.io/posts/2015-08-Understanding-LSTMs/RNN（RecurrentNeuralNetworks）的两点在于他有loops

不会打碟的dj啊·2023-02-02 18:34

P2T: Pyramid Pooling T ransformer for Scene Understanding

论文链接：https://arxiv.org/abs/2106.12011中文版本：https://mmcheng.net/wp-content/uploads/2022/08/22PAMI_P2T_CN.pdf代码链接：https://github.com/yuhuan-wu/P2TP2T:PyramidPoolingTransformerforSceneUnderstanding一、摘要二、研

小小小~·2023-02-02 13:18

Understanding View Selection for Contrastive Learning——理解对比学习的视图选择

原文链接放在这里;https://ai.googleblog.com/2020/08/understanding-view-selection-for.html主要还是写论文需要，临时翻译一下下：

量化橙同学·2023-02-02 11:34

【笔记】Understanding Convolutional Neural Networks for NLP

链接敬上：http://www.wildml.com/2015/11/understanding-convolutional-neural-networks-for-nlp/。如侵权请联系我删文。

清水捡豆子·2023-02-02 07:45

Que2Search: Fast and Accurate Query and Document Understanding for Search at Facebook论文笔记

0、论文资料论文地址：Que2Search:FastandAccurateQueryandDocumentUnderstandingforSearchatFacebook|Proceedingsofthe27thACMSIGKDDConferenceonKnowledgeDiscovery&DataMining1、摘要提出Que2Search，利用多任务和多模态训练方法，学习query和produ

倔强超·2023-02-01 09:54

Understanding the Behaviour of Contrastive Loss理解对比损失的性质以及温度系数的作用

论文标题：UnderstandingtheBehaviourofContrastiveLossUnderstandingtheBehaviourofContrastiveLossarxiv.org对比学习中的温度系数是一个神秘的参数，大部分论文都默认采用小的温度系数来进行自监督对比学习（例如0.07，0.2）。然而并没有对采用小温度系数的解释，以及温度系数是如何影响学习过程的，即温度系数这个角色的

c2a2o2·2023-02-01 03:26

2020，XLNet: Generalized Autoregressive Pretraining for Language Understanding

摘要由于具有双向上下文建模的能力，如BERT等基于去噪自编码的预训练比基于自回归语言建模的预训练方法具有更好的性能。然而，依赖于用掩码破坏输入，BERT忽略了掩码位置之间的依赖性，并存在预训练-微调差异。鉴于这些优缺点，我们提出了XLNet，一种广义自回归预训练方法，1）通过最大化分解顺序的所有排列的期望可能性来学习双向上下文，2）克服了BERT的自回归公式的局限性。此外，XLNet还将来自最先进

weixin_42653320·2023-01-31 23:13

python 傅里叶变换_理解快速傅里叶变换算法

翻译自原文：https://jakevdp.github.io/blog/2013/08/28/understanding-the-fft/快速傅里叶变换（FFT）是信号处理和数据分析中最重要的算法之一

weixin_39556853·2023-01-31 14:07

2019-NeurIPS-Understanding Attention and Generalization in Graph Neural Networks

2019-NeurIPS-UnderstandingAttentionandGeneralizationinGraphNeuralNetworksPaper:https://arxiv.org/abs/1905.02850Code:https://github.com/bknyaz/graph_attention_poolVideo:Blog:理解图神经网络中的注意和泛化作者受图同构网络工作的启发

发呆的比目鱼·2023-01-31 12:03

论文笔记——通过影响函数理解黑盒预测（Understanding Black-box Predictions via Influence Functions）

论文——UnderstandingBlack-boxPredictionsviaInfluenceFunctions1.介绍2.方法一些定义2.1增重一个训练点2.2干扰一个训练输入1.介绍《UnderstandingBlack-boxPredictionsviaInfluenceFunctions》这篇paper是来自2017年的ICMLbestpaper的，其背景在摘要部分已经写明，即为了解释

wei22134·2023-01-30 21:06

深度学习可解释性研究（二）： Understanding Black-box Predictions via Influence Functions（详细公式推导）

该文章从鲁棒性的角度出发，对深度学习模型的可解释性进行分析，这应该是我目前为止读过最难的一篇文章，有很多公式需要推导理解，有很多细节需要慢慢品味，但文章确实是难得一见的好文章，我会尽可能把我自己的理解写清楚，把公式写明白，但有些地方确实超出我目前的能力范围，可能理解有误，欢迎指出。假如说，现在我们做了一个图像分类模型，我们在训练集中挑选一个训练样本，添加一些扰动（在这里就是对图像增加噪声，如果是N

JessssseYule·2023-01-30 21:02

GPT模型：Improving Language Understanding by Generative Pre-Training

https://blog.csdn.net/ACM_hades/article/details/88899307

椒椒。·2023-01-30 20:47

《Improving Language Understanding by Generative Pre-Training》论文笔记

引言GPT（GenerativePre-Training）受到《Semi-SupervisedSequenceLearning》与《UniversalLanguageModelFine-tuningforTextClassification》的启发，采用“预训练+Fine-tune”两阶段的方式，在不降低模型效果的基础上，以统一的模型结构处理不同的NLP任务，并有效地降低有监督学习对标注数据的依赖

凯子要面包·2023-01-30 20:47

[文献阅读]——Improving Language Understanding by Generative Pre-Training

Muasci·2023-01-30 20:17

论文阅读：GPT-Improving Language Understanding by Generative Pre-Training

Abstract通过在不同的无标记的文本语料库上生成语言模型的预训练，然后对每个任务进行区分性调整在微调期间使用任务感知的输入转换，同时对模型体系结构进行最小的更改1.INTRODUCTION未标记文本的单词级信息仍旧是一个挑战1.First,itisunclearwhattypeofoptimizationobjectivesaremosteffectiveatlearningtextrepre

咕噜咕噜day·2023-01-30 20:17

论文阅读《Improving Language Understanding by Generative Pre-Training》

论文地址：《ImprovingLanguageUnderstandingbyGenerativePre-Training》文章目录论文介绍相关工作框架预训练阶段微调阶段实验分析论文介绍本论文探索一种基于半监督解决语言理解任务方法，使用无监督预训练和监督微调。目标是从大量未标注语料库学习一种普遍的表征，不要求目标任务与未标注语料库在相同领域。训练分为两个阶段：首先，在未标注数据上使用语言建模来学习神

Diobld·2023-01-30 20:46

Improving Language Understanding by Generative Pre-Training

Abstract由于标注数据的缺乏，直接训练判别式模型效果不是很理想。本文展示了先在大规模未标注语料上预训练生成式语言模型然后在每个判别式任务上进行fine-tuning可以获得较大的效果提升。相比于以前的方法，本文在fine-tuning阶段利用了task-awareinputtransformations,实现了有效的迁移学习并且只需要很少的模型结构调整。Introduction从原始文本中有

chansonzhang·2023-01-30 20:46

文献阅读：Improving Language Understanding by Generative Pre-Training

1.训练数据2.实验结果3.消解实验4.总结&思考文献链接：https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf

Espresso Macchiato·2023-01-30 20:16

JSON Schema笔记

https://www.jianshu.com/p/1711f2f24dcfhttps://www.jianshu.com/p/1711f2f24dcfhttp://json-schema.org/understanding-json-schema

Collie·2023-01-30 04:00

（阅读）MPC-BERT: A Pre-Trained Language Model for Multi-Party Conversation Understanding

论文地址代码标题MPC-BERT：一种用于多方对话理解的预训练语言模型摘要最近，用于多方对话（MPC）的各种神经网络模型在诸如接收人（addressee）识别、说话人识别和回复预测等任务上取得了令人印象深刻的改进。然而，现有的MPC方法通常都是将对话者和对话语句单独表征，而忽略了MPC固有的复杂结构，这种结构可以提供关键的对话者和对话语句语义信息，从而增强会话理解过程。为此，我们提出了MPC-BE

aiyouyou_·2023-01-29 20:13

RNN、LSTM及GRU的理解学习笔记

details/89894058https://www.cnblogs.com/jiangxinyang/p/9376021.htmlhttp://colah.github.io/posts/2015-08-Understanding-LSTMs

꯭A·2023-01-29 14:24

重读经典（点云深度学习开山之作）：《Deep learning on point clouds for 3D scene understanding》(持续更新中)

本文介绍的是PointNet作者的博士论文：3D场景理解中的点云深度学习。从上图可以看到，整个博士论文主要贡献有两块：一是点云深度学习的网络架构（PointNet和PointNet++）；二是在3D场景理解中的应用（FrustumPointnets和FlowNet3D）。在本文中，将会按照博士论文篇幅顺序对PointNet和PointNet++进行一次详解介绍。关于后面两章3D场景理解中的应用感兴

自动驾驶小学生·2023-01-29 00:32

Pandas 中 SettingwithCopyWarning 的原理和解决方案

阅读38,27520190630更新：优化一些翻译表达，增加【太长不看】部分原文链接：https://www.dataquest.io/blog/settingwithcopywarning/原文标题：Understanding

夏天的技术博客·2023-01-26 17:27

【论文阅读】CodeT5: Identifier-aware Unified Pre-trained Encoder-Decoder Models for Code Understanding

目录一、简介二、预训练a.Identifier-awareDenoisingPre-trainingb.IdentifierTagging(IT)c.MaskedIdentifierPrediction(MIP)d.BimodalDualGeneration三、实验发表于EMNLP2021paper地址：https://aclanthology.org/2021.emnlp-main.685.pd

知识的芬芳和温柔的力量全都拥有的小王同学·2023-01-25 13:25

Understanding LSTM Networks

文章目录RecurrentNeuralNetworksTheProblemofLong-TermDependenciesLSTMNetworksTheCoreIdeaBehindLSTMs.Step-by-StepLSTMWalkThrough本篇文章记述了自己对“UnderstandingLSTMNetworks”的理解RecurrentNeuralNetworksHumansdon’tstar

WHS-_-2022·2023-01-20 20:21

Understanding Memory Formats

以下内容翻译自：UnderstandingMemoryFormatsIntroduction大多数计算都是关于数据的：分析数据、调整数据、读取和存储数据、生成数据等。DNN领域也不例外。图像、权重/过滤器、声音和文本需要在计算机内存中高效表示，从而以最方便的方式快速执行操作。本文致力于数据格式的一种数据表示形式，它描述了多维数组（nD）如何存储在线性（1D）内存地址空间中，以及为什么这对oneDN

图波列夫·2023-01-18 16:59

UPerNet：Unified Perceptual Parsing for Scene Understanding论文解读

UnifiedPerceptualParsingforSceneUnderstanding论文：[1807.10221]UnifiedPerceptualParsingforSceneUnderstanding(arxiv.org)代码：CSAILVision/unifiedparsing:CodebaseandpretrainedmodelsforECCV’18UnifiedPerceptual

Trouble..·2023-01-18 12:47

BERT论文解读:BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

BERT相信热爱NLP的朋友都对BERT十分熟悉，google提出的这个模型在NLP的多项任务中都取得了惊人的成绩，是目前NLP领域最厉害的武器之一。本文会以原论文为基础来详细解读一下BERT的来龙去脉。在此声明一下，我并不会完全按照原论文的顺序进行解读，而是根据自己的理解来重点介绍我认为核心或者比较重要的部分。OK，我们开始。首先我们先来看一下论文的abstract部分的关于BERT的介绍。这句

胡小白的数据科学之路·2023-01-17 07:34

论文学习《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》

文章分为两部分，第一部分为论文《BERT:Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding》的学习，转自[NLP自然语言处理]谷歌BERT模型深度解析。第二部分是BERT相关论文、文章、代码推荐。一、前言最近谷歌搞了个大新闻，公司AI团队新发布的BERT模型，在机器阅读理解顶级水平测试SQuAD1.1中表现出惊人

XB_please·2023-01-15 18:13

Bert: Pre-training of Deep Bidirectional Transformers for Language Understanding

Abstract我们介绍了一种语言表达模型称为BERT，也就是Transformer的双边编码表示。与当前语言表达模型不同（Petersetal.,2018a;Radfordetal.,2018），BERT设计通过考虑所有层左右上下文对为标注过的文本进行深度双边表达的预训练。因此，预训练BERT模型可以通过只增加一个额外的输出层进行finetuned，从而在很多任务中得到SOTA模型，例如问答系统

abrams90·2023-01-15 18:13

BERT:Pre-training of Deep Bidirectional Transformers for Language Understanding

BERT个人翻译，并不权威。paperhttps://arxiv.org/pdf/1810.04805.pdfBERT:Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding深度双向Transformers预训练解决语言理解Abstract摘要我们引入被叫做BERT的新的语言表示模型，BERT代表Bidirection

DarrenXf·2023-01-15 18:43

21CIKM：Understanding Event Predictions via Contextualized Multilevel Feature Learning论文笔记

模型任务对模型方法不多做介绍，该工作重点是解释方法。其解释方法实质上与GNNExplainer一致。可参考19NIPS：GNNExplainer:GeneratingExplanationsforGraphNeuralNetworks阅读笔记数据集：ZZ活动数据集：X=某地活动（游行、抗议etc.）的时间序列，Y=该地是否爆发新的活动（游行、抗议）新冠数据集：X=某地活动（集会、节日etc.）的时

ZEBRONE·2023-01-11 07:47

LayoutLMv2: Multi-modal Pre-training for Visually-rich Document Understanding

LayoutLMv2使用了现有的屏蔽视觉语言建模任务，新的文本图像对齐(将文本行与相应的图像区域对齐)和文本图像匹配任务(文档图像和文本内容是否相关)进行pre-train。不同于普通的LayoutLM模型，在fine-tune阶段结合视觉嵌入，LayoutLMv2在pre-train阶段集成视觉信息。同时，将空间感知的自注意机制集成到Transformer架构中，该机制涉及token对的二维相对

Tsukinousag1·2023-01-11 02:01

Fast 3D point cloud segmentation using supervoxels with geometry and color for 3Dscene understanding

点云分割复现——Fast3Dpointcloudsegmentationusingsupervoxelswithgeometryandcolorfor3Dsceneunderstandingdemo展示项目地址论文效果复现流程后续demo展示项目地址github地址：Fast3dpointcloudsegmetation论文地址：论文论文效果参考：解读文章效果：复现流程1、源码下载方法一：cmak

小修勾·2023-01-10 06:57

Negative Margin Matters: Understanding Margin in Few-Shot Classification（理解小样本分类的边缘）

Abstract.本文引入了一个基于度量学习的小样本学习的负边缘损失，负边缘损失显著优于softmax损失，在三个标准的小样本分类基准上实现了最好效果的accuracy。这些结果与度量学习领域的普遍做法相反，普遍做法的边际为零或正。为了理解为什么负边缘损失在小样本分类中表现良好，我们从经验和理论两方面分析了训练类和新类在不同边缘下学习到的特征的可鉴别性(discriminability)。我们发现

哈哈哈hhhhhh·2023-01-08 10:10

论文解读 | Negative Margin Matters: Understanding Margin in Few-shot Classification, ECCV2020 spotlight

Motivation在度量学习中，一些方法额外加一个正的边界整合到softmax损失或余弦softmax损失，以强制在真实标签类的分数比其他类的分数至少大一个margin（正的）。这有助于学习具有高度区别性的深度特征，在视觉识别任务中，性能有显著提高。因此作者希望在小样本分类采用这种large-marginsoftmax损失来学习更好的度量，但结果却出乎意料。具有正边距的large-margins

RitaRao·2023-01-08 10:05

深度学习《LSTM和GRU模型》

学习自博客https://colah.github.io/posts/2015-08-Understanding-LSTMs/以及AndrewNg的DL视频，我脑子比较笨，学了一整天才搞明白LSTM的设计初衷

星海千寻·2023-01-08 02:22

Visualizing and Understanding convolutional Networks(ZFNet)论文阅读笔记

ZFNet目录ZFNet目录观察1-利用反卷积实现可视化观察2–特征可视化结论观察3-不同层在不同迭代时期的变化观察4-特征不变性结论观察5-图片相关性分析相关性计算方式结论遮挡影响观察6——特征分析结论总结本问主要记录一下该论中的一些结论观察1-利用反卷积实现可视化注意图中的注释，解释了整个反卷积的过程如何实现了对后层特征图进行逆向可视化；1）卷积层的逆向操作：将原始网络层的特征矩阵进行转置，然

wolf_king_586·2023-01-07 17:35

推荐频道

understanding