文献阅读简记第28页

文献阅读：Training data-efficient image transformers & distillation through attention

Trainingdata-efficientimagetransformers&distillationthroughattention1.四个问题要解决什么问题解决Transformer在图像分类问题中对数据集的限制用什么方法解决作者提出DeiT，一种图像transformers，通过改进训练和蒸馏过程，不需要非常大的数据量来进行训练。而相比与EfficientNets来说，DeiT只对已有的数

MRzzyy·2022-12-16 19:22

LWIP_简记(4.高大上的内存管理)

LWIP一句话记住就行：一项工程，两份配置，三种内存分配，四套操作API，五步初始化，六个"数据流"，七个数据结构－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－前言在第一讲中我们已经简单的提到了lwip支持的三种内存分配策略，这里我们先来聊聊这三种内存分配的异同．|C库自带内存分配策略（malloc/free/realloc）LWIP内存分配机制|动态内存堆

芋圆-钰源·2022-12-16 13:01

LWIP_简记(2.谈谈具体的配置)

LWIP一句话记住就行：一项工程，两份配置，三种内存分配，四套操作API，五步初始化，六个"数据流"，七个数据结构－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－上一篇已经提到了一项工程，粗略的介绍了大纲，以及两份配置，其实要真正弄懂LWIP，还真没那么简单，讲到配置，拿东西可多了，什么协议，TCP,UDP,PPP,IP,ICMP,IGMP…各种xxP，还有各

芋圆-钰源·2022-12-16 13:31

LWIP_简记(1.不得不说一下目录结构)

LWIP一句话记住就行：一项工程，两份配置，三种内存分配，四套操作API，五步初始化，六个"数据流"，七个数据结构－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－当然啦不失一般性，我也会简单讲一下LWIP的目录结构，点到为止，毕竟一开始还是面对初学者，没必要整有些没的，吓到了不好．或者一些大神原本看都看到吐了的东西，再看浪费时间，扫一眼就够了．我呢，全系列以最

芋圆-钰源·2022-12-16 13:30

安卓学习简记：Debug中遇到的问题

2015-03-02：原来的所有源文件都在一个目录下面，于是创建了各种子目录（PS：手动在工程目录下创建）。创建完子目录之后，修改了所有错误和去掉警告之后，发现“逗比女友连连看”的设置界面打开就会崩溃，断点调试，发现都没有进入带SettingActivity中，程序中也没有错误出来。解决方案：因为手动创建目录后在AndroidManifest文件中注册的Activity的android:name就

weixin_30594001·2022-12-16 13:00

TOGAF9企业架构规划与设计学习考试经验简记

近期刚刚考完TOGAF9，正好有时间简单记录一下，希望能对参加学习和考试的同学有所帮助。一、背景TOGAF，TheOpenGroupArchitectureFramework，中文译作开放群组架构框架，是面向全球的架构组织，近年来在中国也有越来越多的架构师参与这项认证。目前版本为9.2，在9.1版本上做了修订，核心框架内容没有大的变化。考试分成两级：一级基础（foundation）：40道单选题，

峥嵘岁月寥寥·2022-12-16 13:28

学习简记_特征工程

特征工程1.特征变换1.1连续变量无量纲化1.2连续变量离散化1.3类别特征转换2.特征组合3.特征评价吴恩达老师有言：“机器学习本质上还是特征工程，数据和特征决定了机器学习上限，模型和算法只是去尽可能逼近这个上限而已。”特征工程是基于原始特征，可以用变换、组合、评价优选及学习等方法来获得更强区分能力的特征。1.特征变换1.1连续变量无量纲化无量纲化指将不同规格的数据转换到同一规格，常见方法有标准

全自动学习机器·2022-12-16 13:54

Vue学习简记（十三）路由2--多级路由及相关参数和配置

Vue学习简记（十三）路由3.多级路由（多级路由）4.路由的query参数5.命名路由6.路由的params参数7.路由的props配置8.

Sonder,·2022-12-16 07:09

三维重建之条纹投影结构光（一）

第一篇记录文献阅读的笔记，对重要知识点进行摘录介绍；第二篇为相位求解和相位展开；第三篇为相高模型的标定；第四篇为重构篇。

beyond951·2022-12-15 23:36

数据结构 | 红黑树、平衡二叉树旋转、并查集

简记为：左根右（二叉排序

西皮呦·2022-12-15 17:01

文献阅读笔记-CSC-数据集-A Hybrid Approach to Automatic Corpus Generation for Chinese Spelling Check

AHybridApproachtoAutomaticCorpusGenerationforChineseSpellingCheck文献阅读笔记论文相关信息：EMNLP-2018：“本文由腾讯AILab主导

Flying Warrior·2022-12-15 14:03

文献阅读（160）chiplet设计空间探索

文章目录1introduction2方法1introduction2方法2.1优化函数2.2拓扑2.3成本题目：DesignSpaceExplorationforChiplet-Assembly-BasedProcessors时间：2020期刊：TVLSI研究机构：UCLA1introduction本文的motivation源自作者提出的三个问题：用一组chiplet将用于构建一组针对不同应用的芯

tiaozhanzhe1900·2022-12-15 14:19

Java Scala数据类型与变量常量及类和对象超详细讲解

目录一、数据类型二、变量和常量三、类和对象3.1类3.2对象3.3伴生类和伴生对象3.4Scala的main函数只能写在object里总结一、数据类型简记:所有基础类型基本与Java的包装类等同，唯一有不同的

·2022-12-15 04:26

Transformer的理解与代码实现—Autoformer文献阅读

文章目录摘要一.关于Transformer的相关学习1.1手推transformer1.1.1Encoder部分1.1.2Decoder部分1.2Transformer的理解与实现（Pytorch)1.2.1seq2seq模型1.2.2Transformer的简单实现1.2.2.1整体结构1.2.2.2Encoder编码器的代码实现1.2.2.3PositionalEncoding代码实现1.2.

HSR CatcousCherishes·2022-12-14 06:53

文献阅读-基于 CNN-Swin Transformer Network 的 LPI 雷达信号识别

1、信号识别方法①时频图像+CNN，以信号调制识别②时频分析+CNN，特征提取与分类③小波变换+残差网络，实现调制信号识别④短时傅里叶+GoogleNet/AlexNet，实现调制信号识别⑤时频分析+改进AlexNet，实现调制信号识别⑥扩张残差网络+时频分析，实现辐射源分类CNN缺陷：不擅长捕捉全局信息，感受野受限，对信噪比要求较高相比于CNN模型的不变性和局部性，特征之间依赖关系差，Trans

ZDA2022·2022-12-14 06:21

文献阅读（59）CVPR2021-Swin Transformer-Hierarchical Vision Transformer using Shifted Windows

学徒刘猛·2022-12-14 06:47

经典文献阅读之--Swin Transformer

0.简介Transfomer最近几年已经霸榜了各个领域，之前我们在《经典文献阅读之–DeformableDETR》这篇博客中对DETR这个系列进行了梳理，但是想着既然写了图像处理领域的方法介绍，正好也按照这个顺序来对另一个非常著名的

敢敢のwings·2022-12-14 06:43

图像恢复论文简记——Uformer: A General U-Shaped Transformer for Image Restoration

2021年6月6日提交到arxiv上的文章。后来的医学图像去噪架构Eformer就是Uformer基础上改进而来，看来还是值得一读，简单记录下。知乎同名账号同步发布。目录一、架构设计二、主要模块细节2.1，W-MSA2.2，LeFF2.3，三种跳跃连接三、计算开销四、实验结果一、架构设计架构如图：比起普通的UNet，不同之处在于采用了LeWinTransformer，这种Transformer也是

umbrellalalalala·2022-12-13 18:14

文献阅读（55）arXiv2021-Pre-Training on Dynamic Graph Neural Networks

学徒刘猛·2022-12-13 16:07

文献阅读2

03-04Date:2022.12.11--03Title:MultimodalmedicalimagefusionusingconvolutionalneuralnetworkandextremelearningmachineLink:Frontiers|Multimodalmedicalimagefusionusingconvolutionalneuralnetworkandextremele

Erwachen·2022-12-13 10:55

文献阅读1

01-02Date:2022.12.09--01Title:MultimodalAttention-basedDeepLearningforAlzheimer’sDiseaseDiagnosisLink:Multimodalattention-baseddeeplearningforAlzheimer'sdiseasediagnosis-PubMed(nih.gov)FrameworkMethod

Erwachen·2022-12-13 10:25

RCNN 论文重点摘要简记

注：文中在括号中标注为“我理解。。。”的内容为我自己个人对这篇论文表述的理解或者猜测，不一定代表论文作者的真实意思Section1：略Section2：RCNN系统分为三个模型组件第一个组件生成一个set的推荐region，这些region和类别无关。这个set为接下来的处理提供候选者第二个组件从每个备选区域中提取出一组固定长度的特征第三个组件是一个SVM分类器的集合，集合的长度应该是待分类的数量

Hugegrunt·2022-12-13 09:53

2022.12.4 第三十三次周报

目录前言文献阅读：结合循环神经网络和图神经网络来预测下一个地方的类别背景提出想法本文主要贡献POI-RGNN架构OGS-POI：对PoI进行分类结论RNN预测sin函数pytorch之RNN参数解释问题

孙源峰·2022-12-12 17:52

2022.12.11 第三十四次周报

目录前言文献阅读：动态LSTM混合模型改善中国季节性干旱预测背景方案预测变量构造干旱预测模型技能分数LSTM模型与其他机器学习模型的比较LSTM定义LSTM的核心思想遗忘门输入门输出门总结前言ThisweekwelearnedanarticlecombiningLSTMtobuildaseasonaldroughtpredictionmodelinChina.Inthisstudy

孙源峰·2022-12-12 17:52

【文献阅读】自适应联邦优化

在这项工作中，提出了联邦版本的自适应优化器，包括ADAGRAD、ADAM和YOGI，并分析了它们在一般非凸设置的异构数据存在时的收敛性。经典三假设，分别是Lipschitz梯度，随机梯度方差有界，梯度值有界：中间定义了一些符号表达，诸如权重参数x的表示，伪梯度的表示等等。然后以下就是算法：可以看出最重要的部分就是ClientOpt和ServerOpt这两个函数，这两个函数可以替代很多的操作。这让这

晨曦未眠·2022-12-12 16:00

【文献阅读】Oort:通过引导参与者选择实现高效联合学习

现有工作随机选择FL参与者，这导致模型和效率较差。这篇文章提出了Oort，通过引导参与者选择来提高联合训练和测试的性能。摘要为了提高模型训练中的准确率性能，Oort优先使用那些同时拥有数据的客户，这些数据在提高模型准确率和快速运行训练方面具有很大作用。为了使FL开发人员能够在模型测试中解释他们的结果，Oort强制要求参与者数据的分布。引言并非所有客户都可以同时进行FL训练或测试，可能具有异构的数据

晨曦未眠·2022-12-12 16:59

【文献阅读】联合学习：挑战、方法和未来方向

本次阅读的是联邦学习的一篇综述FederatedLearning:Challenges,Methods,andFutureDirections，作者是TianLi等。1.引言这篇文章首先提出的是边缘设备的计算能力逐渐加强，再加上对传输私人信息的担忧，引出——在本地存储数据并将网络计算推到边缘越来越有吸引力。然后引出联邦学习的概念，这和许多文献的说法一致。文章将要围绕以下几个方面来讨论问题：智能手机

晨曦未眠·2022-12-12 16:29

【文献阅读】异构网络中的联邦优化——FedProx

本文是FedProx的论文，值得一看。由于本文之前有简单看过一次，这次就不细读，就只读其中比较重要的部分也就是PedProx的实现和收敛证明。定义1：（-不精确解）对于一个函数，其中。我们认为是优化目标的一个-不精确解，当且仅当，其中。注意当越小，意味着精确度越高。在后文的分析中都使用了这个概念来测量每一轮的计算量。之后文章指出FedAvg的主要问题：虽然执行更多的本地epoch允许更多的本地计算

晨曦未眠·2022-12-12 16:29

文献阅读三步法——How to Read a Paper

（今天打算正式开始记录自己的计算机学习过程，顺便记录一下CSDN的写作技巧。由于自己的MarkDown写作技巧并不熟练，所以暂时还是使用默认的文章编辑器。）第一次要写的是一篇论文的阅读《HowtoReadaPaper》，作者是S.Keshav和DavidR.引言作为研究生，如何高效阅读论文是一个老大难的问题，想起来大二大三还是个队友拖油瓶的我，就是因为论文难读，又不敢动手（说白了就是懒）的原因，绩

晨曦未眠·2022-12-12 16:59

文献阅读-轨道不平顺信息用于列车定位

对了，我最近开通了微信公众号，计划是两边会同步更新，并逐步的会将博客上的文章同步至公众号中。感兴趣的朋友可以搜索“里先森sements”来关注，欢迎来玩~！近期拜读了武汉大学牛小骥教授团队的两篇关于轨道不平顺信息用于列车定位的研究文献，未免遗忘，在此对文献中的重点进行梳理。本文将围绕个人对轨道不平顺信息匹配定位的几点疑惑，着重梳理作者是如何从现象到本质去挖掘其中的学术问题，并成功运用这一特性，开辟

里先森·2022-12-12 15:41

RNN学习

文章目录文献阅读摘要过程结论LSTM长短期记忆递归神经网络数学公式原理LSTM反向传播代码总结Thisweek,apaperwhichmainlyproposesahybridclimatelearningmodel

hehehe2022·2022-12-12 13:04

LSTM学习

文章目录前言文献阅读摘要贡献方法评价指标结论LSTM学习总结前言Thisweek,apaperwhichmainlyproposesanovelDLframeworkcombiningmultiplenestedlongshorttermmemorynetworks

hehehe2022·2022-12-12 12:51

window下GPU版Pytroch（1.8.0）和Tensoflow（2.5.0）安装过程简记（python 3.8）

GPU版本的两个使用环境，分别可以在Pycharm中切换使用。啥时候不用这么费劲搞环境。。。一：PYTORCH1.8.0环境python3.8新建环境condacreate-nmy_python_envpython=3.8#Toactivatethisenvironment,use##$condaactivatemy_python_env##Todeactivateanactiveenvironm

无烟蚊香·2022-12-12 12:40

2022.12.11 学习周报

文章目录摘要文献阅读1.题目2.摘要3.传统RNN存在的问题4.RNN与IndRNN的对比4.1隐含层状态更新公式4.2结构示意图4.3IndRNN的优势5.IndRNN的分析5.1RNN5.2LSTM5.3IndRNN

MoxiMoses·2022-12-12 08:53

【文献阅读】SLAKE——医学图像的VQA双语数据集（Bo Liu等人，ArXiv，2021）

一、背景文章题目：《SLAKE:ASemantically-LabeledKnowledge-EnhancedDatasetforMedicalVisualQuestionAnswering》文章下载地址：https://arxiv.org/pdf/2102.09542.pdf文章引用格式：BoLiu,Li-MingZhan,LiXu,LinMa,YanYang,Xiao-MingWu."SLAK

全部梭哈迟早暴富·2022-12-11 19:13

文献阅读—GAIN：Missing Data Imputation using Generative Adversarial Nets

文章提出了一种填补缺失数据的算法—GAIN。生成器G观测一些真实数据，并用真实数据预测确实数据，输出完整的数据；判别器D试图去判断完整的数据中，哪些是观测到的真实值，哪些是填补的值。给D提供一些额外的提示信息，保证G可以学习期望的分布。提示向量向D透露了原始数据的部分信息。在多个数据集上测试了算法，算法效果较好。一.引言1.缺失数据可以分成三类：MCAR：完全随机缺失，数据的缺失不依赖于任何不完全

一颗豆苗苗·2022-12-11 12:20

DenseNet 学习与总结

1.文献阅读（1）DenseNet是什么DenseNet的网络基本机构如上图，简单来说就是每一层的输入同前面各层相连，每一层的输出同后面各层相连，保证了网络中层之间的最大的信息流动。

定睛一看·2022-12-11 00:22

【文献阅读】具有循环一致性的鲁棒VQA与数据集VQA-Rephrasings（M. Shah等人，CVPR，2019）

一、文章概况文章题目：《Cycle-ConsistencyforRobustVisualQuestionAnswering》这篇文章和前面介绍的MirrorGAN几乎是同一个idea，作者主要来自facebook，找到了第三和第四作者的个人主页，其中MarcusRohrbach一直在做VQA，可以关注下，但是他的个人主页已经很久没有更新了：[1]MarcusRohrbach的个人主页[2]Devi

全部梭哈迟早暴富·2022-12-10 21:12

POI推荐文献阅读笔记1：DeepMove:Predicting Human Mobility with AttentionalRecurrent Networks

唯有清风搭乘我·2022-12-10 16:32

POI推荐文献阅读笔记3：Predicting Human Mobility via Graph Convolutional Dual-attentive Networks

唯有清风搭乘我·2022-12-10 16:44

文献阅读_Document-Level Event Argument Extraction by Conditional Generation

前言小白读论文文献阅读汇总Proceedingsofthe2021ConferenceoftheNorthAmericanChapteroftheAssociationforComputationalLinguistics

Andy Dennis·2022-12-10 14:33

以CVPR顶会论文为例，探讨AI论文的阅读方法

这个过程中需要我们掌握一些文献阅读技巧。常说文献精读，但是如何去做精读？怎么去理解一篇论文的展开逻辑？作者究竟是怎么表达自己的核心工作？

沃恩智慧·2022-12-10 12:02

[文献阅读笔记]：VectorNet: Encoding HD Maps and Agent Dynamics from Vectorized Representation

[文献阅读笔记]：VectorNet:EncodingHDMapsandAgentDynamicsfromVectorizedRepresentation在前期进行充分调研后，在考虑模型精度与时延的基础上

Way_X·2022-12-10 07:18

华为云桌面服务器（2288H V5）加装内存条及硬盘简记

华为云桌面服务器（2288HV5）加装内存条及硬盘简记一、硬件准备（一）现状分析（二）加装准备二、硬件加装过程（一）下电关机（二）安装内存条（三）安装硬盘（三）加电三、系统识别过程（一）检查内存条是否安装成功

鱼月半·2022-12-09 13:36

文献阅读19期：SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS

[文献阅读·图卷积网络]SEMI-SUPERVISEDCLASSIFICATIONWITHGRAPHCONVOLUTIONALNETWORKS[1]推荐理由：用巧妙的方法推出层与层之间的传播规则，很好地实现了半监督节点分类

RaZLeon·2022-12-09 11:48

CVPR2022会议论文，关于transformer的文献阅读笔记

Transformer文章阅读笔记VisionTransformerWithDeformableAttention.CVPR，2022.作者：ZhuofanXia,XuranPan,ShijiSong,LiErranLi,GaoHuang.Remark:DeformableAttentionTransformer.提出一种可变形自注意力模块，keyandvalue对儿以数据依赖的方式来选择。DAT

mathematican·2022-12-08 20:58

【玩转算法】排序算法口诀

初始有序的情况下，直接插入排序和冒泡排序的时间复杂度为O(n)，简记为“容易插”和“冒得好”算法稳定性：“情绪不稳定，快些选一堆零食解压吧”，其中快指快速排序，些指希尔排序，选指简单选择排序，堆指堆排序

Light.T·2022-12-08 08:27

文献阅读——神经网络剪枝技术（二）

神经网络剪枝技术1.神经网络压缩技术当前的神经网络压缩技术主要有6类：网络剪枝、参数共享、量化、网络分解、网络蒸馏、紧凑网络设计。1.1网络剪枝网络剪枝使用的比较广泛，将会在第二节详细介绍进行介绍。1.2参数共享主要思想是让网络中多个参数共享同一值，但具体实现方式不同。如利用k均值聚类、低秩分解、权重采样等。但可能会因为过分追求模型压缩比导致模型精度的下降。1.3量化量化方法通过降低权重所需要的比

黄小米吖·2022-12-08 02:47

科研入门——文献阅读

目录（一）文献管理1.文献选择2.文献分类3.其他资料搜集（二）文献阅读1.每个版块的阅读2.带着问题去阅读3.学会做笔记（三）科研态度1.扎实2.思考参考资料研究生该如何进行文献阅读和管理？

唔嗯雯的学习笔记·2022-12-07 14:26

科研汪的日常 60 一起读文献1

早就想开启文献阅读的章节，用输出倒逼输入，总算是开始啦。

007木子·2022-12-07 02:10

推荐频道

文献阅读简记