文献阅读第14页

2022.12.25 第三十六次周报

目录前言文献阅读背景主要贡献预处理模型架构时间特征提取空间特征提取结论GRU概念输入输出结构GRU的内部结构总结前言Thisweeklearnedanarticleoninitialattention-basedrecognitionofhumanactivityusingGRU.Inthisstudy

孙源峰·2022-12-26 08:59

文献阅读笔记5——《Composited FishNet: Fish Detection and Species Recognition From Low-Quality ...》

《CompositedFishNet:FishDetectionandSpeciesRecognitionFromLow-QualityUnderwaterVideos》写文章模板论文Abstact重要意义：水下视频中鱼类的自动检测和识别对于渔业资源评估和生态环境监测具有重要意义。问题和挑战：由于水下图像质量差和鱼无约束运动，传统的手动特征提取方法或基于卷积神经网络的目标检测算法无法满足真实水下场

白日梦想家April_Liu·2022-12-25 19:29

文献阅读——Using Multi-level Attention Based on Concept Embedding Enrichen Short Text to Classification

本次对上面的文献进行了阅读，并进行总结上面的文献使用的方式是使用C-ST和C-CS这两种注意力机制相结合使用的方式来提升性能短文本分类的性能。本篇文献中创新点应该是在于不仅仅使用了短文本的自身的信息同时也使用了concept的信息。首先，如果要对短文本执行分类任务，首当其冲应该提到的是对短文本信息进行表示学习，首先得到一个良好的文本表示，这样的一个中间处理过程对于短文本分类所可以达到的精度是十分重

奋斗的海绵·2022-12-25 14:27

文献阅读——Exploiting Cloze Questions for Few Shot Text Classification and Natural Language Inference

附注这篇文章中在最终提到模型的时候使用了一个“知识蒸馏”的点，这点需要注意。如果不懂的话，请参考知识蒸馏基本原理其实，这里的知识蒸馏主要是在预训练模型的Fine-tuning中应用的较多，首先是使用一个大于1的T来学习预训练模型得到的一个有关数据之间的软分布，同时加上自己的一定真是数据，这样可以使得我们的模型具有较好的泛化能力。接着是在我们进行预测的时候将T的温度降下来，使得输出一个正常的分布。文

奋斗的海绵·2022-12-25 14:27

文献阅读 ——— Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in NLP

文章名称Pre-train,Prompt,andPredict:ASystematicSurveyofPromptingMethodsinNaturalLanguageProcessing文章动机首先，这篇文章的编写的动机是为了总结NLP的第四范式PromptLearning。说实话，在本人读完之后感觉这个范式确实挺厉害的。文章框架本篇文章的书写框架是，首先着重讲述了NLP研究领域所使用的范式的发

奋斗的海绵·2022-12-25 14:20

dalle2：hierarchical text-conditional image generation with clip

paper-reading,视频播放量30350、弹幕量256、点赞数1767、投硬币枚数1318、收藏人数751、转发人数344,视频作者跟李沐学AI,作者简介，相关视频：博一研究生求偶视频，如何做好文献阅读及笔记整理

Kun Li·2022-12-25 07:54

【笔记】文献阅读[YOLOV3]-An Incremental Improvement

YOLOv3:AnIncrementalImprovement引言1介绍2细节2.2类别预测2.3多尺度预测2.4特征提取2.5训练3我们是怎么做的（方法）4一些无用的尝试5这意味着什么（反思）申辩引言论文精读可以看B站大佬的视频：【精读AI论文】YOLOV3目标检测（附YOLOV3代码复现）该篇论文其实是作者的一篇技术报告，所以文笔会相对俏皮，不是特别严肃。翻译有问题欢迎指出，不断改进！我们

摇曳的树·2022-12-23 22:20

DenseFusion 文献阅读及拓展阅读

一、概览论文地址：https://arxiv.org/abs/1901.04780代码地址：https://github.com/j96w/DenseFusion论文框架：研究目的：在混乱场景的RGB-D图像中估计出一组已知目标的6D姿态。研究思路：充分利用两个互补数据源——RGB图像和深度图像。解决方法：提出DenseFusion——一种可单独处理两个数据源的异质架构。研究贡献：提出了一种将RG

万俟淋曦·2022-12-23 10:15

2022.12.10 第12次周报

目录摘要深度学习1、RNN数据处理方式2、RNN文本处理3、简单RNN代码实现文献阅读1、摘要2、DeFINE提出背景3、DeFINE4、实验结果4、结论总结摘要Thisweek,IstudiedRNNandlearnedaboutitsdataandtextprocessingmethod

轻描淡写ζ·2022-12-23 05:00

2022.12.18 学习周报

文章目录摘要文献阅读1.题目2.摘要3.介绍4.RNNConventionalRecurrentNeuralNetworks5.DeepRecurrentNeuralNetworks5.1DeepTransitionRNN5.2DeepOutput5.3StackedRNN6

MoxiMoses·2022-12-23 05:27

文献阅读3

05Date:2022.12.17--05Title:Multi‑ModalFeatureFusion‑BasedMulti‑BranchClassificationNetworkforPulmonaryNoduleMalignancySuspiciousnessDiagnosisLink:Multi-ModalFeatureFusion-BasedMulti-BranchClassificati

Erwachen·2022-12-22 13:39

文献阅读4

06Date:2022.12.19--06Title:DeeplearningbasedfetaldistressdetectionfromtimefrequencyrepresentationofcardiotocogramsignalusingMorsewavelet:researchstudyLink:Deeplearningbasedfetaldistressdetectionfromti

Erwachen·2022-12-22 13:39

文献阅读-Clinical and Biological subtypes of B-cell lymphoma revealed by microenvironment signature

文献阅读ClinicalandBiologicalsubtypesofB-celllymphomarevealedbymicroenvironmentalsignatureAbstract弥漫大B细胞淋巴瘤是一种生物学及临床异质性很强的疾病

weixin_52505487·2022-12-22 11:30

文献阅读-FCER1G与透明细胞癌中巨噬细胞的浸润相关并且通过调节肿瘤免疫产生不良预后

FCER1Gpositiverelatestomacrophageinfiltrationinclearcellrenalcellcarcinomaandcontributestounfavorableprognosisbyregulatingtumorimmunity摘要背景：肿瘤相关巨噬细胞（Tumor-associatedmacrophages）TAMs在透明细胞癌中与患者不良的预后相关，但

weixin_52505487·2022-12-22 11:00

【文献阅读】Deep Anomaly Detection with Outlier Exposure

深度异常检测与异常暴露文章目录深度异常检测与异常暴露Abstract1Introduction2RelatedWork3OutlierExposure4、Experiments4.1OOD检测器的评估4.2各种数据集的介绍（略）4.3多分类MaximumSoftmaxProbability(MSP)ConfidenceBranchSyntheticOutliersDensityEstimation

StatisticsLiu·2022-12-22 07:11

2022/12/11周报

目录摘要文献阅读1、题目和摘要2、GRU网络3、注意力机制4、数据处理5、实验结果深度学习1、GRU2、重置门和更新门总结摘要本周在论文阅方面，阅读了一篇基于双重注意力机制和GRU网络的短期负荷预测模型的论文

白小李·2022-12-21 08:33

2022/12/18周报

目录摘要文献阅读1、题目和摘要2、现有方法问题3、数据处理3、SVM模块4、改进SVM冲突探测5、实验结果深度学习1、支持向量机SVM2、求解SVM决策超平面3、代码总结摘要本周在论文阅方面，阅读了一篇基于

白小李·2022-12-21 08:33

期刊级别应该是怎样划分的呢？

而我们这些大学生作为一个学术小白也要经常进入文献阅读网站去阅读一些文献，来提高自己的专业知识水平。

六维论文推荐·2022-12-19 14:48

视频动作分类文献阅读笔记

太长不看版：trimmedvideo可以用TSN＋I3D／P3D+Bilinearpooling+non-localblock。其中各部分涉及的文章下面都有讲。可以先看之前的文章：VideoAnalysis入门。1.TSN视频数据的中时建模介绍，5s，如highjump，用于剪辑视频分类。基于双流法，然后对视频不同片段预测的结果进行平均。TSN是目前最主流且（后续工作）效果最好的思路了。2.Quo

Wayne2019·2022-12-19 08:11

文献阅读（51）SIGIR2021-Self-supervised Graph Learning for Recommendation

学徒刘猛·2022-12-19 00:47

文献阅读笔记 Chinese Short Text Classification with Mutual-Attention Convolutional Neural Networks

全文脉络本文中提到的新的模型总体来讲是基于BiLSTM进行改进的一种适用于中文短文本分类的模型。这篇文章的主要使用的数据集也都是中文数据集。一共是使用了6个不同来源的中文数据集。个人感觉本篇文章中的主要的贡献点主要是，将基于字级别的特征和基于词级别的特征进行了一个整合，也就是使用了两个层次共同贡献来的信息，来使得最终的模型不会忽略掉任何一个重要的semanticinformation。从而文中了对

奋斗的海绵·2022-12-18 09:52

文献阅读笔记 Short-Text Classification Detector: A Bert-Based Mental Approach

小结首先，由于短文本具有稀疏性，所以导致机器很难去理解或者识别到短文本中所表示含义。所以文中提出了一种方法，使用发布短文本的作者的mentalfeature来提升分类的准确性。并且文中使用的是Bert模型来进行训练，在最终通过实验的结果来验证使用Bert模型的效率和mentalfeature对短文本分类简介同时指出Bert模型由三个部分组成，Inputlayer，Encoderlayer，Outp

奋斗的海绵·2022-12-18 09:51

[文献阅读]——BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

Muasci·2022-12-18 09:47

文献阅读——BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

这次看到的这篇文献是关于BERT的模型开山设计的文献，通过这篇文献正式了解了有关于BERT的模型设计的起源以及为何设计这个模型，这个模型相比较于之前的模型做了什么改进，这个模型主要是做什么的，通过什么方式进行改进这个模型的，这个模型处理了什么下游任务等等BERT是一个语言模型，这个语言模型主要是用了进行“表示学习”的。得以于它的强大的表示学习能力；通过预训练得到的BERT模型，通过在特定任务的数据

奋斗的海绵·2022-12-18 09:44

读文献都有哪些技巧

选择加"星标"或“置顶”重磅干货，第一时间送达本文转自：深度学习与计算机视觉声明：仅做学术分享，侵删对于学术性质的文献，特别是CNS等顶尖杂志的文献，都有哪些阅读方面的技巧呢，前几天分享了博士生如何进行文献阅读和文献整理

小白学视觉·2022-12-17 20:34

高效科研工具集合

PDF文献阅读：AdobeacrobatDCpro,知云阅读,有道翻译*注：一定要找Pro版本的,这样可以对PDF进行一系列的处理,包括裁剪,编辑,以及页面处理等等,还会有许多新功能可以解锁。

Timer-419·2022-12-17 19:32

论文笔记：WORD TRANSLATION WITHOUT PARALLEL DATA

引用文章FacebookMUSE无监督跨语言迁移学习任务face-WordTranslationwithoutParallelData文献阅读笔记：WordTranslationWithoutParallelData

帅帅梁·2022-12-17 06:00

【文献阅读】RL经典：Benchmarking Deep Reinforcement Learning for Continuous Control

BenchmarkingDeepReinforcementLearningforContinuousControlBriefpaper链接paper开源代码code引用量300++作者PieterAbbeel来自UCBerkeley鉴于RL领域具有很强的时效性，这篇2016年开源的论文在当时应该是非常轰动的。不过对于现在RL算法的发展，这篇肯定是有很大的滞后性的。所以权当学习一种如果对RL算法的重

wxmcp3·2022-12-16 23:11

文献阅读：Training data-efficient image transformers & distillation through attention

Trainingdata-efficientimagetransformers&distillationthroughattention1.四个问题要解决什么问题解决Transformer在图像分类问题中对数据集的限制用什么方法解决作者提出DeiT，一种图像transformers，通过改进训练和蒸馏过程，不需要非常大的数据量来进行训练。而相比与EfficientNets来说，DeiT只对已有的数

MRzzyy·2022-12-16 19:22

三维重建之条纹投影结构光（一）

第一篇记录文献阅读的笔记，对重要知识点进行摘录介绍；第二篇为相位求解和相位展开；第三篇为相高模型的标定；第四篇为重构篇。

beyond951·2022-12-15 23:36

文献阅读笔记-CSC-数据集-A Hybrid Approach to Automatic Corpus Generation for Chinese Spelling Check

AHybridApproachtoAutomaticCorpusGenerationforChineseSpellingCheck文献阅读笔记论文相关信息：EMNLP-2018：“本文由腾讯AILab主导

Flying Warrior·2022-12-15 14:03

文献阅读（160）chiplet设计空间探索

文章目录1introduction2方法1introduction2方法2.1优化函数2.2拓扑2.3成本题目：DesignSpaceExplorationforChiplet-Assembly-BasedProcessors时间：2020期刊：TVLSI研究机构：UCLA1introduction本文的motivation源自作者提出的三个问题：用一组chiplet将用于构建一组针对不同应用的芯

tiaozhanzhe1900·2022-12-15 14:19

Transformer的理解与代码实现—Autoformer文献阅读

文章目录摘要一.关于Transformer的相关学习1.1手推transformer1.1.1Encoder部分1.1.2Decoder部分1.2Transformer的理解与实现（Pytorch)1.2.1seq2seq模型1.2.2Transformer的简单实现1.2.2.1整体结构1.2.2.2Encoder编码器的代码实现1.2.2.3PositionalEncoding代码实现1.2.

HSR CatcousCherishes·2022-12-14 06:53

文献阅读-基于 CNN-Swin Transformer Network 的 LPI 雷达信号识别

1、信号识别方法①时频图像+CNN，以信号调制识别②时频分析+CNN，特征提取与分类③小波变换+残差网络，实现调制信号识别④短时傅里叶+GoogleNet/AlexNet，实现调制信号识别⑤时频分析+改进AlexNet，实现调制信号识别⑥扩张残差网络+时频分析，实现辐射源分类CNN缺陷：不擅长捕捉全局信息，感受野受限，对信噪比要求较高相比于CNN模型的不变性和局部性，特征之间依赖关系差，Trans

ZDA2022·2022-12-14 06:21

文献阅读（59）CVPR2021-Swin Transformer-Hierarchical Vision Transformer using Shifted Windows

学徒刘猛·2022-12-14 06:47

经典文献阅读之--Swin Transformer

0.简介Transfomer最近几年已经霸榜了各个领域，之前我们在《经典文献阅读之–DeformableDETR》这篇博客中对DETR这个系列进行了梳理，但是想着既然写了图像处理领域的方法介绍，正好也按照这个顺序来对另一个非常著名的

敢敢のwings·2022-12-14 06:43

文献阅读（55）arXiv2021-Pre-Training on Dynamic Graph Neural Networks

学徒刘猛·2022-12-13 16:07

文献阅读2

03-04Date:2022.12.11--03Title:MultimodalmedicalimagefusionusingconvolutionalneuralnetworkandextremelearningmachineLink:Frontiers|Multimodalmedicalimagefusionusingconvolutionalneuralnetworkandextremele

Erwachen·2022-12-13 10:55

文献阅读1

01-02Date:2022.12.09--01Title:MultimodalAttention-basedDeepLearningforAlzheimer’sDiseaseDiagnosisLink:Multimodalattention-baseddeeplearningforAlzheimer'sdiseasediagnosis-PubMed(nih.gov)FrameworkMethod

Erwachen·2022-12-13 10:25

2022.12.4 第三十三次周报

目录前言文献阅读：结合循环神经网络和图神经网络来预测下一个地方的类别背景提出想法本文主要贡献POI-RGNN架构OGS-POI：对PoI进行分类结论RNN预测sin函数pytorch之RNN参数解释问题

孙源峰·2022-12-12 17:52

2022.12.11 第三十四次周报

目录前言文献阅读：动态LSTM混合模型改善中国季节性干旱预测背景方案预测变量构造干旱预测模型技能分数LSTM模型与其他机器学习模型的比较LSTM定义LSTM的核心思想遗忘门输入门输出门总结前言ThisweekwelearnedanarticlecombiningLSTMtobuildaseasonaldroughtpredictionmodelinChina.Inthisstudy

孙源峰·2022-12-12 17:52

【文献阅读】自适应联邦优化

在这项工作中，提出了联邦版本的自适应优化器，包括ADAGRAD、ADAM和YOGI，并分析了它们在一般非凸设置的异构数据存在时的收敛性。经典三假设，分别是Lipschitz梯度，随机梯度方差有界，梯度值有界：中间定义了一些符号表达，诸如权重参数x的表示，伪梯度的表示等等。然后以下就是算法：可以看出最重要的部分就是ClientOpt和ServerOpt这两个函数，这两个函数可以替代很多的操作。这让这

晨曦未眠·2022-12-12 16:00

【文献阅读】Oort:通过引导参与者选择实现高效联合学习

现有工作随机选择FL参与者，这导致模型和效率较差。这篇文章提出了Oort，通过引导参与者选择来提高联合训练和测试的性能。摘要为了提高模型训练中的准确率性能，Oort优先使用那些同时拥有数据的客户，这些数据在提高模型准确率和快速运行训练方面具有很大作用。为了使FL开发人员能够在模型测试中解释他们的结果，Oort强制要求参与者数据的分布。引言并非所有客户都可以同时进行FL训练或测试，可能具有异构的数据

晨曦未眠·2022-12-12 16:59

【文献阅读】联合学习：挑战、方法和未来方向

本次阅读的是联邦学习的一篇综述FederatedLearning:Challenges,Methods,andFutureDirections，作者是TianLi等。1.引言这篇文章首先提出的是边缘设备的计算能力逐渐加强，再加上对传输私人信息的担忧，引出——在本地存储数据并将网络计算推到边缘越来越有吸引力。然后引出联邦学习的概念，这和许多文献的说法一致。文章将要围绕以下几个方面来讨论问题：智能手机

晨曦未眠·2022-12-12 16:29

【文献阅读】异构网络中的联邦优化——FedProx

本文是FedProx的论文，值得一看。由于本文之前有简单看过一次，这次就不细读，就只读其中比较重要的部分也就是PedProx的实现和收敛证明。定义1：（-不精确解）对于一个函数，其中。我们认为是优化目标的一个-不精确解，当且仅当，其中。注意当越小，意味着精确度越高。在后文的分析中都使用了这个概念来测量每一轮的计算量。之后文章指出FedAvg的主要问题：虽然执行更多的本地epoch允许更多的本地计算