论文笔记——网络结构第33页

transformers简介

目录1、前言2、网络结构（1）、Transformers的总体架构可以分为四部分（2）、输入文本包含（3）、输出部分包含（4）、编码器部分（5）、解码器部分1、前言处理序列任务的时候，首要的选择就是RNN

Q渡劫·2023-10-03 05:42

目标检测YOLO实战应用案例100讲-基于端到端的自动驾驶道路环境目标检测（续）

目录3.1.2多尺度小目标检测3.1.3SwinTransformerLayer3.1.4MCS-YOLO网络结构图3.2实验环境及参数设置

林聪木·2023-10-03 05:56

计算机网络：第3章数据链路层

在分层的网络结构体系中数据从一个主机传输到另外一个主机是通过逐层解封和封装完成的，但是如果只研究数据链路层，则可以看成数据沿直线从最左边的数据链路层传播到最右边，如下图所示：数据链路层信道类型：点对点信道对应

Raym0ne·2023-10-03 02:37

论文笔记_Network in Network

文章目录摘要1.介绍2.卷积神经网络3.NetworkinNetwork3.1MLP卷积层3.2全局平均池化3.3NIN网络架构4.实验4.1实验概述4.2CIFAR-104.3CIFAR-1004.4StreetViewHouseNumbers数据集4.5MNIST4.6全局平均池化作为正则化项4.7NIN的可视化5.总结延伸参考文献：摘要本文提出一个叫做NetworkinNetwork(N

你搁这儿写bug呢？·2023-10-02 16:32

NIN 论文笔记

取而代之，我们构建了一个更复杂的神经网络结构去abstract局部感受野的data。我们使用通用近似模块MLP来构建这个复杂神经网络。改进后的网络的featuremaps的计算方式

黑暗星球·2023-10-02 16:32

Network in Network论文笔记

NetworkinNetworkIntroduction传统卷积：广义线性模型（GeneralizedLinerModel，GLM），提取的浅层特征。只有数据线性可分时可以达到好的效果。NIN：利用非线性模块（micronetwork，本文采用多层感知机——mlpconv）代替GLM。GLM提取局部的线性特征，mlpconv包含多层感知机和全连接层。两者都是滑动窗形式提取局部特征。NIN由mlpc

huhu_hhh·2023-10-02 16:01

论文笔记：Network in Network

1.Motivation:convlayersuseGLM(WX+b)toextractfeatures;thelevelofabstractionislow(latentfeaturesarelinearlyseperable)==>useMLP(canapproximateanyfunctions,whereasmaxoutonlyapproximatesconvexfunctions,and

John2King·2023-10-02 16:01

【论文笔记】Reconstructing Training Data with Informed Adversaries

ReconstructingTrainingDatawithInformedAdversaries摘要&介绍由于机器学习模型可以有“记忆”功能，那么当训练数据涉及隐私信息时，若被攻击者还原出原始训练数据，就会很危险。这个论文就是探讨这样的攻击是否可能。所有的训练数据中，只有一个是未知的。目标就是还原出这一个未知的数据样本，找到攻击的方式、泄露多少信息可以达到被还原、哪些特性会导致可还原、自我检查模

sugar_e·2023-10-02 16:30

[论文笔记]GLM

引言今天带来论文GLM:GeneralLanguageModelPretrainingwithAutoregressiveBlankInfilling的笔记。论文中文标题为通用语言模型预训练与自回归填空。有很多不同类型的预训练架构，包括自编码模型(BERT、RoBERTa、ALBERT)、自回归模型(GPT系列)以及编码器-解码器模型(T5、MASS、BART、PALM)。然而，没有任何预训练框架

愤怒的可乐·2023-10-02 16:00

论文笔记：TMN: Trajectory Matching Networks for PredictingSimilarity

2022ICDE1intro1.1背景轨迹相似度可以划分为：非学习度量方法通常是为一两个特定的轨迹距离度量设计的，因此不能与其他度量一起使用通常需要二次时间（O(n^2)）来计算轨迹之间的精确距离基于学习的度量方法利用机器学习技术学习轨迹的适当表示，用于任何一种距离度量在预处理阶段（训练阶段？）之后，数据库中的每条轨迹都被转换成d维空间中的一个向量然后，两条轨迹之间的相似性可以通过两个相应向量之间

UQI-LIUWJ·2023-10-02 16:55

SRDiff: Single Image Super-Resolution with Diffusion Probabilistic Models 论文笔记

前言由于大多数基于卷积神经网络或者Attention机制的超分辨模型大部分都是PSNR主导的，即用PSNR作为损失函数进行训练，这会导致超分辨图像过度平滑的问题，也就是超分辨后的图像高频信息不能很好保留，并且超分辨的图像较为固定，对于超分辨这种不适定问题来说不太合适。另外一种超分辨模型是基于GAN进行图像生成，会存在训练困难、模型不稳定的问题。于是论文提出了基于扩散模型的超分辨模型，具有特点如下：

Unsunshine_Bigboy_?·2023-10-02 15:40

tech| PTS 性能测试一览

:tech|PTS性能测试一览综合尝试了以下性能测试工具,对性能测试至少不是盲人摸象的状态了.httprunnerjmeter阿里云ptsPTS基础:http协议http协议基础知识:tcp/ip4层网络结构

daydaygo·2023-10-02 10:34

网络渗透测试实验三 XSS和SQL

系统环境：KaliLinux2、WindowsServer网络环境：交换网络结构实验工具：Beef；AWVS(AcunetixWebVulnarabilityScanner);

Sa&ar·2023-10-02 05:10

web系统的网络结构，B/S,C/S和P2P架构

目录一，B/S（Browser/Server）架构二，C/S（Client/Server）架构三，B/S和C/S的对比区别四，P2P（Point-to-Point）点对点的结构一，B/S（Browser/Server）架构浏览器/服务器指的是通过网页浏览器互联网即可进行访问，不用下载客户端app软件等，通过浏览器与服务器进行通信交互，这一类系统统称为B/S架构的系统。二，C/S（Client/Se

柒烨带你飞·2023-10-01 20:31

论文笔记：Contrastive Trajectory Similarity Learning withDual-Feature Attention

ICDE20231intro1.1背景轨迹相似性，可以分为两类启发式度量根据手工制定的规则，找到两条轨迹之间基于点的匹配学习式度量通过计算轨迹嵌入之间的距离来预测相似性值上述两种度量的挑战：无效性：具有不同采样率或含有噪声的轨迹会降低现有度量的有效性使用手工制定规则的启发式度量容易受到低质量轨迹的错误影响学习式度量主要采用并非最初为轨迹数据设计的深度学习模型，可能无法捕捉轨迹点之间以及相似轨迹之间

UQI-LIUWJ·2023-10-01 20:45

【论文笔记】SVDM: Single-View Diffusion Model for Pseudo-Stereo 3D Object Detection

原文链接：https://arxiv.org/abs/2307.022701.引言目前的从单目相机生成伪传感器表达的方法依赖预训练的深度估计网络。这些方法需要深度标签来训练深度估计网络，且伪立体方法通过图像正向变形合成立体图像，会导致遮挡区域的像素伪影、扭曲、孔洞。此外，特征级别的伪立体图生成很难直接应用，且适应度有限。那么如何绕过深度估计，在图像层面设计透视图生成器呢？和GAN相比，扩散

byzy·2023-10-01 18:22

【论文笔记】DiffBEV: Conditional Diffusion Model for Bird’s Eye View Perception

原文链接：https://arxiv.org/abs/2303.083331.引言通常，相机参数和激光雷达扫描的噪声会使BEV特征带有有害的噪声。扩散模型有去噪能力，能将有噪声样本还原为理想数据。本文提出DiffBEV，使用条件扩散概率模型（DPM）提高BEV特征的质量。然后，交叉注意力会融合条件扩散模型的输出与原始BEV特征。 DiffBEV可以接入不同的下游任务分支，并进行端到端的训练。

byzy·2023-10-01 18:21

【论文笔记】DiffusionTrack: Diffusion Model For Multi-Object Tracking

原文链接：https://arxiv.org/abs/2308.099051.引言多目标跟踪通常分为两阶段的检测后跟踪（TBD）和一阶段的联合检测跟踪（JDT）。TBD对单帧进行目标检测后，使用跟踪器跨帧关联相同物体。使用的跟踪器包括使用卡尔曼滤波器的基于运动的跟踪、使用重新识别技术关联物体、基于图的跟踪器（将关联过程建模为最小代价流问题）。 JDT方法统一处理跟踪与检测，可分为3类：基于查

byzy·2023-10-01 18:20

代码续发·2023-10-01 15:31

孪生网络（Siamese Network）

基本概念孪生网络（SiameseNetwork）是一类神经网络结构，它是由两个或更多个完全相同的网络组成的。孪生网络通常被用于解决基于相似度比较的任务，例如人脸识别、语音识别、目标跟踪等问题。

h0l10w·2023-10-01 11:09

【深度学习推荐系统工程篇】三、浅析FastTransFormer看 GPU推理优化思路

likewind1993·2023-10-01 09:49

1 论文笔记：Efficient Trajectory Similarity Computation with ContrastiveLearning

2022CIKM1intro1.1背景轨迹相似度计算是轨迹分析任务（相似子轨迹搜索、轨迹预测和轨迹聚类）最基础的组件之一现有的关于轨迹相似度计算的研究主要可以分为两大类：传统方法DTW、EDR、EDwP等二次计算复杂度O(n^2)缺乏稳健性会受到非均匀采样、噪点的影响基于学习的方法旨在减少计算复杂度和/或提高稳健性根据它们的目的将它们分为两个方向神经逼近方法利用强大的神经网络在隐藏空间中逼近任何现

UQI-LIUWJ·2023-10-01 06:49

python报错ModuleNotFoundError: No module named ‘XXX‘

记录一下改神经网络过程中遇到的小bug在对网络结构进行更改时，不可避免要把别人的文件copy到自己的项目里。这时可能会遇到包导入的错误。

Yokon_D·2023-10-01 01:34

目标检测论文解读5——YOLO v1

方法首先看一下模型的网络结构，输入的原图片，经过24个卷积层提取特征，全连接层输出一个7*7*30的tensor，这个tensor里面就包含我们预测的结果了。

angmaodie3396·2023-10-01 01:00

A Simple Baseline for multi-object Tracking(FairMOT)论文阅读笔记

FairMOT论文笔记（一）Title（二）Summary（三）ResearchObejct（四）ProblemStatement（五）Method5.1backbone5.2ObjectDetectionBranch5.3IdentityEmbeddingBranch5.4LossFunctions5.5

不知道叫啥好一点·2023-09-30 18:18

[论文笔记]MacBERT

引言今天带来MacBERT的阅读笔记。论文题目是重新审视中文自然语言处理的预训练模型。本篇主要是探讨中文预训练语言模型在非英文语言中的有效性，然后提出了一种简单而有效的模型，称为MacBERT，它在多个方面改进了RoBERTa，特别是采用纠错型掩码语言模型(MLMascorrection,Mac)的掩码策略。通过实验表明MacBERT在很多NLP任务中能取得SOTA结果。总体介绍BERT已经变成N

愤怒的可乐·2023-09-30 10:15

Pytorch 网络结构的可视化

在构建网络的过程中，需要查看网络结构，以便于优化，使用Pytorch常用的可视化工具有1.HiddenlayermyNet=U_Net()print(myNet)###可视化卷积神经网络,MyConvnet

齐落山大勇·2023-09-30 01:46

论文笔记----MEAL V2

MEALV2:BoostingVanillaResNet-50to80%+Top-1AccuracyonImageNetwithoutTricks∗原文链接：https://arxiv.org/pdf/2009.08453v1.pdf代码：https://github.com/szq0214/MEAL-V2简介作者提出了一种非常简单高效的提升ResNet网络性能的方案。即：多老师版的知识蒸馏模型加

静夜寒风·2023-09-29 22:42

与友商竞争

友商投入巨大的人力成本，大兵压境，通过调整网络结构、优化参数设定精细度等手段，使得差异化、场景化能力提升明显，优化效果改善显著，获得客户好评。虽说自己当时也算身经百

谭新_a27d·2023-09-29 21:17

yolov5-6.0使用&改进

yolov5-6.0使用修改test1:IOU→DIOU_nmstest2:设置网络结构为mobi

国服最强貂蝉·2023-09-29 21:18

pytorch中的模型剪枝

下面开始演示三种剪枝在LeNet网络中的应用效果，首先给出LeNet网络结构。importtorchfromtorchimportnnclassLeNet(nn

海棠花不香·2023-09-29 19:39

论文笔记 Inference in Deep Gaussian Processes using Stochastic Gradient Hamiltonia使用随机梯度哈密顿量蒙特卡罗推理深度高斯过程

使用随机梯度哈密顿量蒙特卡罗推理深度高斯过程0.摘要深度高斯过程(DGP)是高斯过程的层次概括，它将经过良好校准的不确定性估计与多层模型的高度灵活性相结合。这些模型的最大挑战之一是精确推断是难以处理的。当前最先进的推理方法变分推理(VI)对后验分布采用高斯近似。这可能是一般多峰后验的潜在较差的单峰近似。在这项工作中，我们为后验的非高斯性质提供了证据，并且我们应用随机梯度哈密顿蒙特卡罗方法来生成样本

风尘23187·2023-09-29 17:31

【多模态】AIGC论文笔记整理（持续更新）

AIGCDiffusionModels【202012】DenoisingDiffusionProbabilisticModels（DDPM）【202102】ImprovedDenoisingDiffusionProbabilisticModels（ImprovedDDPM）【202103】LearningTransferableVisualModelsFromNaturalLanguageSupe

Carl39·2023-09-29 17:31

论文笔记（整理）：轨迹相似度顶会论文中使用的数据集

0汇总数据类型数据名称数据处理出租车数据波尔图原始数据：2013年7月到2014年6月，170万条数据ICDE2023ContrastiveTrajectorySimilarityLearningwithDual-FeatureAttention过滤位于城市（或国家）区域之外的轨迹过滤包含少于20个点或超过200个点的轨迹——>137W轨迹CIKM2022EfficientTrajectorySi

UQI-LIUWJ·2023-09-29 11:47

YOLOv8网络轻量化改进原创思路及代码，结合CVPR最新Idea

首先可以考虑使用更紧凑的网络结构来减少模型的参数数量和计算量；其次可以引入一些注意力机制来提升模型对重要区域的关注程度；最后可以通

强盛小灵通专卖员·2023-09-29 09:06

深度学习：基于长短时记忆网络LSTM实现情感分析

目录1LSTM网络介绍1.1LSTM概述1.2LSTM网络结构1.3LSTM门机制1.4双向LSTM2PytorchLSTM输入输出2.1LSTM参数2.2LSTM输入2.3LSTM输出2.4隐藏层状态初始化

智慧医疗探索者·2023-09-29 06:20

Building A Neural Network From Scratch in Python

本文将使用Python语言，基于全连接网络结构，构建一个简单的神经网络并训练它对手写数字数据进行分类。通过该过程，读者可以了解到机器学习领域最基础也是最重要的算

禅与计算机程序设计艺术·2023-09-29 05:35

计算机网络（谢希仁版）知识点汇总

1、概述1.1互联网概述计算机网络概念主机的概念和用途、互连网互联网发展的三个阶段（互连网与互联网、三级网络结构）ISP作用和分类、IXP互联网标准三个阶段WAN、MAN、LAN、PAN1.2互联网的组成

阿飛学长·2023-09-29 04:15

广义回归神经网络（GRNN）的实现（Python，附源码及数据集）

文章目录一、理论基础1、广义回归神经网络结构2、输入层3、模式层4、求和层5、输出层6、优化思路二、广义回归神经网络的实现1、实现过程（GRNN.py）2、预测结果3、参考源码及实验数据集一、理论基础广义回归神经网络

七层楼的疯子·2023-09-28 19:49

【锐捷交换】交换机MSTP+VRRP配置

作为一种二层管理协议，MSTP通过选择性地阻塞网络中的冗余链路来消除二层环路，将环路网络结构修剪成无环路的树型网络结构，从而防止报文在环路网络中不断增生和无限循环，避免设备由于重复接收相同报文而造成报文处理能力的下降

CyclingLife·2023-09-28 15:03

【计算机视觉|人脸建模】PanoHead：360度几何感知的3D全头合成

本系列博文为深度学习/计算机视觉论文笔记，转载请注明出处标题：PanoHead:Geometry-Aware3DFull-HeadSynthesisin360∘^{\circ}∘链接：[2303.13071

远哥挺乐·2023-09-28 15:41

【论文】如何记论文笔记

〇、前情提要论文笔记。参考：路得_Ruth-【学术干货】博士学姐的学术论文阅读方法|笔记格式https://www.bilibili.com/video/BV13E411W7u5?

绝不做九漏鱼·2023-09-28 12:27

软考-计算机网络与系统安全

动态分配和自动分配DNS协议：递归查询，迭代查询计算机网络分类按分布范围：局域网城域网广域网因特网按拓扑结构分总线型星型环型树型分布式网络规划与设计逻辑网络设计利用需求分析和现有网络体系分析的结果来设计逻辑网络结构

哦灬吼吼吼·2023-09-28 08:31

图像语义分割 U-Net图像分割网络详解

图像语义分割U-Net图像分割网络详解简介原始论文中的网络结构在医学方面的应用pytorch官方实现以DRIVE眼底血管分割数据集训练U-Net语义分割网络模型U-Net网络训练损失函数简介U-Net网络非常的简单

郭庆汝·2023-09-28 08:55

#论文笔记# Demystifying Core Ranking in Pinterest Image Search

本文是Pinterest试验的图片检索算法，本文从：trainingdata，user/imagefeaturization和rankingmodels等角度进行解读，并做了性能和质量方面的测试Backgroud:1.Purpose:improvetheimagesearchqualitybyevolvingrankingtechniquesThefirstsearchsystemwasbuilt

YYrun·2023-09-28 06:00

核心层（网络的高速交换主干）、汇聚层（提供基于策略的连接）、接入层（将工作站接入网络）。

三层网络结构是采用层次化架构的三层网络。三层网络架构采用层次化模型设计，即将复杂的网络设计分成几个层次，每个层次着重于某些特定的功能，这样就能够使一个复杂的大问题变成许多简单的小问题。

qk_zhu·2023-09-28 05:18

基于minist数据集用VAE训练生成图片（VAE基础入门学习）

它是一种深度生成模型，由Kingma等人于2014年提出的基于变分贝叶斯（VariationalBayes，VB）推断的生成式网络结构1.VAE模型有两部分，分别是一个编码器和一个解码器，常用于AI图

云梦之上·2023-09-28 04:05

韩松毕业论文笔记-第六章-EFFICIENT METHODS AND HARDWARE FOR DEEP LEARNING

本文转自tszs_song，原文链接：https://www.cnblogs.com/zhengmeisong/p/7685039.html，转载时请注明出处及相应链接。————————————————难得跟了一次热点，从看到论文到现在已经过了快三周了，又安排了其他方向，觉得再不写又像之前读过的N多篇一样被遗忘在角落，还是先写吧，虽然有些地方还没琢磨透，但是paper总是这样吧，毕竟没有亲手实现一

城外南风起·2023-09-28 03:52

服务网关Gateway_微服务中的应用

使用网关后，客户端和微服务之间的网络结构如下。注意：网关统一向外部系统（如访问者、服务）提供RESTAPI。

CuteTTU·2023-09-28 00:06

论文笔记：SAITS: SELF-ATTENTION-BASED IMPUTATION FOR TIMESERIES

对time-series使用self-attention来进行补全1introduction传统的处理缺失数据的方式一般有两个分类直接删去只有部分观测值的样本使用数据补全，将合适的数据填入直接删去的不足直接删去会导致偏差；合适的数据补全是无偏的部分观测样本也是有一定的意义的目前一些模型的不足BRITS、GAIN、E2GAN等模型都是autoregressive模型（xt的数值取决于之前1~t-1中

UQI-LIUWJ·2023-09-27 21:53

推荐频道

论文笔记——网络结构