论文笔记——网络结构第35页

YOLOv5-Lite：更少的参数、更高的精度、更快的检测速度(附C++部署分享)

一、YOLOV5-Lite1、Backbone与HeadYOLOv5-Lite的网络结构的Backbone主要使用的是含Shufflechannel的Shuffleblock组成；检测Head依旧用

计算机视觉研究院·2023-09-23 03:37

YOLOv5改进——加入解耦合头

YOLOv5s+解耦合头（DecoupledHead）最近，在看YOLOv5s的网络结构，看了一段时间感觉还可以，就想着在看看能不能改进一下。

帅帅帅.·2023-09-23 00:58

YOLOv5、YOLOv8改进：Decoupled Head解耦头

2.2Decoupled_Detect加入yolo.py中：2.3修改yolov5s_decoupled.yaml1.DecoupledHead介绍DecoupledHead是一种图像分割任务中常用的网络结构

陈子迩·2023-09-23 00:28

现代卷积网络实战系列3：PyTorch从零构建AlexNet训练MNIST数据集

极大提高了特征提取效果首次使用GPU进行训练使用了LRN局部响应归一化（对局部神经元的活动创建竞争机制，使得其中响应比较大的值变得相对更大，并抑制其他反馈较小的神经元，增强了模型的泛化能力）2、AlexNet网络结构

机器学习杨卓越·2023-09-22 21:17

论文笔记：MTrajRec: Map-Constrained Trajectory Recovery via Seq2SeqMulti-task Learning

2021KDD1intro1.1背景现实中低采样率的轨迹十分常见以出租车为例，为了节约设备的通信成本，通常每2-6分钟才会上报一个位置信息——>这导致收集到的轨迹数据十分稀疏为了更好地挖掘低采样率的轨迹，一个直接的方式是先将低采样率轨迹在自由空间上恢复至高采样率，而后再将恢复的轨迹匹配至路网上，以支持后续的应用服务然而两步走的做法很可能会导致误差累积自由空间上的轨迹恢复可能会导致后续地图匹配选错路

UQI-LIUWJ·2023-09-22 21:47

【论文笔记】NeRF-RPN: A general framework for object detection in NeRFs

原文链接：https://arxiv.org/abs/2211.116461.引言 NeRF模型能直接从给定的RGB图像和相机姿态学习3D场景的NeRF表达。本文提出NeRF-RPN，使用从NeRF模型提取的辐射场和密度，直接生成边界框提案。3.方法如图所示，本文的方法有两个组成部分，特征提取器（从NeRF采样的辐射和密度网格）和RPN头（生成物体提案）。3.1从NeRF输入采样第一步是

byzy·2023-09-22 16:42

【论文笔记】NeRF-Det: Learning Geometry-Aware Volumetric Representation for Multi-View 3D Object Detection

原文链接：https://arxiv.org/abs/2307.146201.引言深度传感器在室内场景中（如VR、AR设备上）很少被使用，因此仅依赖相机进行3D目标检测充满挑战。最直接的几何建模方法是估计深度，但单目深度估计算法不能准确估计深度且不能实现多视图一致性。神经辐射场（NeRF）被证明能有效建模几何，但将其应用于3D目标检测比较复杂，因为渲染NeRF需要对空间的高频采样以避免混叠

byzy·2023-09-22 16:41

论文笔记之抓取：Learning 6-DOF Grasping Interaction via Deep Geometry-aware 3D Representations

Contributions:(1)learna6-DOFgraspingnetfromRGBDinput;(2)Webuildagraspingdatasetfromdemonstrationsinvirtualrealitywithrichsensoryandinteractionannotations,proposeadataaugmentationstrategyforeffectivele

eight_Jessen·2023-09-22 16:38

【论文笔记】Scene as Occupancy

原文链接：https://arxiv.org/abs/2306.028511.引言与传统的3D框物体表达相比，使用3D占用表达是几何感知的，因为3D框表达简化了物体的形状。此外，现有基于视觉的方法很少考虑时间信息；单阶段方法缺少从粗到细的细化过程。本文提出OccNet，一种基于多视图图像的方法，包含级联体素解码器，利用时间信息重建3D占用，接入任务头即可支持不同的自动驾驶任务。OccNet

byzy·2023-09-22 16:37

Pytorch入门练习2-kaggle手写字识别神经网络(CNN)实现

目录数据预处理自定义数据集构建网络结构对卷积神经网络进行训练和评估对数据进行预测保存预测数据，提交代码SNN由于无法考虑到图片数据的维度关系，在预测精度上会被限制，本章我们采用CNN卷积神经网络来实现手写字识别

Liang.ZL·2023-09-22 11:55

利用魔搭中的开源模型进行动物识别

模型描述模型采用resnest101网络结构。使用方式和范围使用方式：直接推理，对输入的图像，输入图像直接进行推理。使用场景:适合含有动物的图像进行动物标签识别，期望图像中动物占比不要过小。

另一个人。·2023-09-22 09:38

[论文笔记]Prefix Tuning

引言今天带来微调LLM的第二篇论文笔记Prefix-Tuning。

愤怒的可乐·2023-09-22 09:51

[论文笔记]Prompt Tuning

引言今天带来第三篇大模型微调论文笔记ThePowerofScaleforParameter-EfficientPromptTuning。

愤怒的可乐·2023-09-22 09:47

四十五.门控循环单元(GRU)简介和keras实现

目录1.网络结构(1)记忆体hth^{t}ht(2)候选状态ht^\widehat{h^{t}}ht(3)重置门和更新门2.前向传播过程3.keras+GPU茅台股票预测1.网络结构U是LSTM的一种变体

stackooooover·2023-09-22 08:10

扩散模型实战（三）：扩散模型的应用

wshzd·2023-09-22 07:27

论文笔记：TEST: Text Prototype Aligned Embedding to ActivateLLM’s Ability for Time Series

1intro1.1背景时间序列TS和大模型LLM的结合设想了两种实现TS+LLM的范例LLM-for-TS针对TS数据，从头开始设计并预训练一个基本的大型模型，然后为各种下游任务相应地微调模型TS-for-LLM基于现有的LLM，使它们能够处理TS数据和任务。不是创建一个新的LLM，而是设计一些机制来为LLM定制TS。论文承认第一种方法是最基本的解决方案，因为预训练是向模型灌输知识的关键步骤。而第

UQI-LIUWJ·2023-09-22 00:41

【论文笔记】Slim-neck by GSConv

文章目录前言1.简介2.GSConv4.为什么要在Neck中使用GSConv3.Slim-NeckSlim-Neck中的模块Slim-Neck针对YOLO系列的设计一些问题总结References前言作者提出了一种新方法GSConv来减轻模型复杂度，保持准确性。GSConv可以更好地平衡模型的准确性和速度。并且，提供了一种设计范式Slim-Neck，以实现检测器更高的计算成本效益。实验过程中，与原

JehanRio·2023-09-21 20:22

NExT-GPT: Any-to-Any Multimodal LLM论文笔记

论文https://arxiv.org/pdf/2309.05519.pdf代码https://github.com/NExT-GPT/NExT-GPT/tree/main1.Motivation现有的多模态大模型大都只是支持输入端的多模态（Text、Image、Video、Audio等），但是输出端都是Text。也有一些现有的输入输出都是多模态的工作，如CoDi、Visual-ChatGPT、H

Nick Blog·2023-09-21 18:35

深度学习训练过程可视化工具

1.深度学习网络结构画图工具地址：https://cbovar.github.io/ConvNetDraw/2.caffe可视化工具输入：caffe配置文件输出：网络结构地址：http://ethereon.github.io

Angelina_Jolie·2023-09-21 18:25

有了HTTP，为什么还要RPC？

OSI网络七层模型在说RPC和HTTP的区别之前，我觉的有必要了解一下OSI的七层网络结构模型（虽然实际应用中基本上都是五层），它可以分为以下几层：（从上到下）第一层：应用层。定义了用

BUG指挥官·2023-09-21 17:35

【论文笔记】Optimal trajectory generation for dynamic street scenarios in a Frenét Frame

文章目录AbstractI.INTRODUCTIONA.MotivationB.RelatedworkII.OPTIMALCONTROLAPPROACHIII.MOTIONPLANNINGINTHEFREŃETFRAMEIV.GENERATIONOFLATERALMOVEMENTA.HighSpeedTrajectoriesB.LowSpeedTrajectoriesV.GENERATIONOF

yuan〇·2023-09-21 17:55

深度学习修炼（二）全连接神经网络 | Softmax，交叉熵损失函数优化AdaGrad，RMSProp等对抗过拟合全攻略

文章目录1多层感知机（全连接神经网络）1.1表示1.2基本概念1.3必要组成—激活函数1.4网络结构设计2损失函数2.1SOFTMAX操作2.2交叉熵损失函数3优化3.1求导计算过于复杂？

Qodi·2023-09-21 16:26

Fast R-CNN

2.在R-CNN网络结构模型中，由于卷积神经网络的全连接层对于输入的图像尺寸有限制，所以所有候选区域的图像都必须经过变形转换后才能交由卷积神经网络进行特征提取

奋斗_蜗牛·2023-09-21 11:23

DRUNet—Infrared Small UAV Target Detection Based on Residual Image Prediction via Global and Local

基于全局和局部残差图像预测的红外小型无人机目标检测（InfraredSmallUAVTargetDetectionBasedonResidualImagePredictionviaGlobalandLocal）提出网络结构

东西山海关_cy·2023-09-21 10:18

论文笔记 DETR

detr摘要和引言2020论文facebook不需要proposal，不需要基于anchor的先验知识(比如预训练的模型)，也不需要NMS进行筛选，直接端到端不需要后处理利用transformer的全局建模能力，看成集合预测问题，不会输出很多冗余的框，直接端到端，不需要NMS，简化了训练和部署NMS:非极大值抑制，抑制掉冗余的框anchor:滑动窗口，需要手动设计特征并判断提取，会产生大量候选框；

Plusmile1·2023-09-21 10:34

【神经网络】Python基于numpy灵活定义神经网络结构的方法

主要介绍了Python基于numpy灵活定义神经网络结构的方法,结合实例形式分析了神经网络结构的原理及Python具体实现方法,涉及Python使用numpy扩展进行数学运算的相关操作技巧,需要的朋友可以参考下本文实例讲述了

高山仰止景·2023-09-21 07:15

计算机毕设 LSTM的预测算法 - 股票预测天气预测房价预测

文章目录0简介1基于Keras用LSTM网络做时间序列预测2长短记忆网络3LSTM网络结构和原理3.1LSTM核心思想3.2遗忘门3.3输入门3.4输出门4基于LSTM的天气预测4.1数据集4.2预测示例

DanCheng-studio·2023-09-21 07:37

计算机毕设 opencv python 深度学习垃圾图像分类系统

文章目录0前言课题简介一、识别效果二、实现1.数据集2.实现原理和方法3.网络结构最后0前言这两年开始毕业设计和毕业答辩的要求和难度不断提升，传统的毕设题目缺少创新和亮点，往往达不到毕业答辩的要求，这两年不断有学弟学妹告诉学长自己做的项目系统达不到老师的要求

DanCheng-studio·2023-09-21 07:06

论文笔记24：两篇注意力机制去噪文章

两篇注意力机制去噪文章EnhancedNon-LocalCascadingNetworkwithAttentionMechanismforHyperspectralImageDenoising-网络比较复杂引言方法实验代码ADRN:Attention-basedDeepResidualNetworkforHyperspectralImageDenoising-对比上文的通道注意力块引言方法Enha

love_lqz·2023-09-21 06:44

GPT家族

Task04GPT家族目录GPT-1GPT-1的训练无监督预训练有监督微调任务相关的输入变换GPT-1的数据集网络结构的细节无监督训练有监督微调GPT-1的性能总结GPT-2GPT-2的核心思想GPT-

Runjavago·2023-09-21 05:45

【论文笔记】MultiResUNet: Rethinking the U-Net Architecture for Multimodal Biomedical Image Segmentation

论文地址目录一、前言二、U-Net模型的分析1.为什么两次3×3的卷积近似于一次5×5的卷积呢？2.为什么后一种轻量级的结构可以近似于之前的结构？三、融合策略的分析四、整体架构参考文献一、前言近年来，深度学习在医学图像分割领域取得了很大的突破，其中基于全卷积网络的U-Net已经成为最流行、最引人瞩目的架构[1]。尽管如此，U-Net仍存在着一些不足之处，本文对经典U-Net做出了进一步改进，并经实

灵芙绿柳·2023-09-21 03:10

算法工程师-笔（面）试题汇总

其中训练集用来估计模型，验证集用来确定网络结构或者控制模

Trisyp·2023-09-21 02:46

Heterogeneous Graph Structure Learning for Graph Neural Networks （HGSL）论文笔记

目标：异质网络（子图）的嵌入,用于节点分类任务方法：根据边（R）类型的的不同分解成多个子网络，对每个子网络使用GCN，进行联合优化，目标为是最小化交叉熵（目标是节点分类）具体流程如图：一、得到关系r1的子图对于一类关系r1，指的是连接两个节点的边，将这类关系的节点从异质图上挖下来构成一个子图。该子图的邻接矩阵为Ar1。另外还融入了节点属性信息和节点间的语义信息。二、得到融合节点属性的子图对于一个关

二流子学程序·2023-09-21 02:39

pytorch的卷积层池化层和非线性变化和机器学习线性回归

卷积层：两个输出的情况就会有两个通道可以改变通道数的最简单的神经网络结构：nn.Mudule就是继承父类super执行的是先执行父类函数里面的forward执行的就是前向网络，就是往前推进的，当然也有反向转播

ElE rookie·2023-09-21 01:56

新闻推荐论文笔记(2):Neural News Recommendation with Attentive Multi-View Learning

IJCAI2019论文清北与微软亚研出品image.png本文为自己的论文阅读笔记，如有错误欢迎指正，转载请联系笔者最近在研究新闻推荐的新方法，本文为系列文章的第二篇，前文请见https://www.jianshu.com/p/2d7e261bc277摘要个性化的新闻推荐对于在线新闻平台帮助用户找到感兴趣的新闻并改善用户体验非常重要。新闻和用户表示学习对于新闻推荐至关重要.现有的新闻推荐方法通常基

阿瑟_TJRS·2023-09-20 20:49

利用LSTM和TensorFlow模拟任意艺术家风格生成新歌词：完整Python实现指南

1.介绍随着深度学习技术的快速进步，我们现在可以使用各种神经网络结构来生成文本、图像甚至音乐。其中，长短期记忆网络（LSTM）是处理序列数据，如文本和时间序列数据的首选技术。

m0_57781768·2023-09-20 19:57

《Self-Supervised Generative Adversarial Networks》论文笔记

说在前面的话，我认为这篇文章的核心思想是，使得G(z)与真实图片接近的保证，除了直接匹配比较两者，还有更多的保证手段，如在真实图像中捕捉到的某种特征，在G(z)中也能捕捉到。这些保证可以作为辅佐保证来提高G的生成质量。（在此文中，可检测旋转角度的一种特征便是我这里的某种特征。）文章核心思想实现的细节是，G和D都保留原始GAN损失函数项；另，D要以真实数据的旋转角度损失，去锻炼区分某种特征的能力（那

爱学习的Whitley·2023-09-20 18:30

系统架构完整实例

用例图，流程图开发架构，关注代码层次结构，程序包，sdk，第三方库，中间件等运行架构，关注并发，同步，死锁等物理架构，关注部署，网络结构，服务器等基础设施数据架构，关注数据持久化，存储。分布式，

步基·2023-09-20 14:22

论文笔记：Clustering and Unsupervised Anomaly Detection with L2 Normalized Deep Auto-Encoder Represent...

论文思想：在Auto-Encoder的训练中，加入一个L2normalizationconstraint，利用提取到特征用k-means进行聚类或者异常检测工作，都取得了更好的效果。1.Introduction深度学习兴起后人们把深度无监督学习的表征方法用于聚类分析当中，大多数方法都是利用自编码提取到的特征来进行聚类并在此基础上定义一个聚类损失来调整参数。先前的很多这方面的work不同之处就在于它

melo4·2023-09-20 13:15

HTTP和RPC区别（通俗易懂超级好）

OSI网络七层模型在说RPC和HTTP的区别之前，我觉的有必要了解一下OSI的七层网络结构模型（虽然实际应用中基本上都

拉格朗日(Lagrange)·2023-09-20 12:09

卷积神经网络理论（一零一）——知识扩充：深度学习在图像领域的几种任务

这个系列的本来目的就是要帮助小白走出初期的迷惑期，省出乱翻资料的时间，因此本文放在了介绍完LeNet所代表的典型卷积神经网络结构之后，使用代码进行实现之前。

大耳朵的猩猩·2023-09-20 11:05

【论文笔记】图神经网络采样相关工作整理9.19

RWLinno·2023-09-20 09:10

再议态势感知

可以尝试使用更深层次、更复杂的神经网络结构，如Transformer等，以增加模型的表达能力和推理能力。同时，可以通过添加注意力机制、门控机制等模块来增强模型对输入的关注和选择性。

人机与认知实验室·2023-09-20 08:19

django_1

djangoshell9.数据级联-一对多作业：1.CS/BS简介概念：BS:Bbrowser浏览器Sserver服务器主流CS:Cclient客户端Sserver服务器B/S结构是WEB兴起后的一种网络结构模式

莫迟_·2023-09-20 05:20

轻量级网络 ShuffleNet_v1及v2

参考资料：『高性能模型』轻量级网络ShuffleNet_v1及v2ShuffleNet_v2的网络结构：ShuffleNet_v2的基本单元（图中的c和d，a和b则是ShuffleNet_v1的基本单元

LCG22·2023-09-20 05:27

Transformer

什么是TransformerTransformer是基于Self-attention注意力机制的一种网络结构，同时其网络结构也沿用了seq2seq的主体结构，由Encoder-Decoder流程组成，包含了

大鱼奔大江·2023-09-20 02:27

[论文笔记]Adapter turning

引言今天带来第一篇大语言模型高效微调的论文AdapterTuning笔记。预训练+微调的范式是一种高效的迁移学习机制。然而，当有很多下游任务时，微调参数并不高效：对于每个任务都要有一个全新的模型。作者提出了基于adapter模块的迁移学习方法，可以产生一个紧凑和可扩展的模型。只需要为每个任务增加少部分可训练参数，而固定原来模型的参数。作者说Adapter可以获取接近SOTA的表现。总体介绍在预训练

愤怒的可乐·2023-09-19 21:22

结构洞与孤家寡人

结构洞是“社会网络中的某个或某些个体和有些个体发生直接联系，但与其他个体不发生直接联系，无直接联系或关系间断(disconnection)的现象，从网络整体看好像网络结构中出现了洞穴”。

追梦者wang·2023-09-19 17:49

重构Transformer神经网络：优化的自注意力机制和前馈神经网络

重构Transformer神经网络：优化的自注意力机制和前馈神经网络原文代码网络结构推理代码训代码数据处理代码长词表辅助代码原文标题：重构Transformer神经网络：优化的自注意力机制和前馈神经网络摘要

东方佑·2023-09-19 12:49

计算机视觉与深度学习-经典网络解析-ZFNet-[北邮鲁鹏]

相对于AlexNet，ZFNet结构与AlexNet网络结构基本一致，进行了一些改进，包括卷积核。主要改进减小第一层卷积核如果第一层的卷积核很大，那么第一

古董a·2023-09-19 06:49

推荐频道

论文笔记——网络结构