vae论文笔记第6页

【论文笔记】Cam4DOcc: Benchmark for Camera-Only 4D Occupancy Forecasting in Autonomous Driving Application

Cam4DOcc:BenchmarkforCamera-Only4DOccupancyForecastinginAutonomousDrivingApplications原文链接：https://arxiv.org/abs/2311.17663I.引言现有的基于相机的占用估计方法仅估计当前和过去的占用状态，但自动驾驶汽车需要未来的环境条件。本文提出首个相机4D占用预测基准Cam4DOcc，包含数据

byzy·2023-12-23 15:30

【论文笔记】NeuRAD: Neural Rendering for Autonomous Driving

原文链接：https://arxiv.org/abs/2311.152601.引言神经辐射场（NeRF）应用在自动驾驶中，可以创建可编辑的场景数字克隆（可自由编辑视角和场景物体），以进行仿真。但目前的方法或者需要大量的训练时间，或者对传感器的建模过于简单（导致仿真和真实数据的间隙），或者性能较低。本文提出NeuRAD，一种可编辑的新视图合成模型。该方法可以处理大型自动驾驶场景，建模了重要的传感器特

byzy·2023-12-23 15:28

hjxu2016·2023-12-23 11:52

ACL2021论文笔记——Semantic Representation for Dialogue Modeling

论文链接：SemanticRepresentationforDialogueModeling(aclanthology.org)https://aclanthology.org/2021.acl-long.342.pdfattention:本文的"我"、"我们"都指作者概述：题目为《对话建模的语义表示》仍需解决的问题：1.AMR2.featurefusion(Mangaietal.,2010)3.

Mike峰·2023-12-23 08:28

VAE-GAN学习记录

一、遇到的问题以及学习目的学习VAE-GAN主要是因为最近在做故障诊断相关的东西，之前在某篇论文里得知，使用GAN算法时，可以使用判别损失+重构损失对异常样本进行检测。

河马小白·2023-12-23 03:24

【论文笔记】Unsupervised Person Re-identification by Soft Multilabel Learning

笔记目录（部分笔者省略）摘要1.简介2.相关工作无监督RE_ID无监督域自适应多标签分类零镜头学习3.深度软件多标签参考学习3.1问题表述和概述3.2软多标签引导的硬否定挖掘3.3跨视野一致性软多标签学习3.4参考代理学习4.实验4.1数据集基准测试评估辅助数据集4.2实验实施细节4.3与最新方法的比较与基于手工特征表示模型的比较与基于伪标签学习模型的比较与基于无监督域自适应模型的比较4.4消融研

Yo3ngLau·2023-12-23 02:21

image caption 必看论文，模型整理

基础模型transformers-attentionisallyouneed细节笔记论文笔记几个重点1.架构图2.attention原理attention机制中的query,key,value的概念解释

MIngo的成长·2023-12-23 01:16

[论文笔记] GNNAdvisor: An Adaptive and Efficient Runtime System for GNN Acceleration on GPUs

GNNAdvisor:AnAdaptiveandEfficientRuntimeSystemforGNNAccelerationonGPUsGNNAdvisor:GPU上GNN加速的自适应高效运行时系统[Paper][Slides][Code]OSDI’21摘要提出了GNNAdvisor,一个用于加速GPU平台上各种GNN工作负载的自适应高效运行时系统.从GNN模型和输入图中探索并识别了几个与性能

PeakCrosser·2023-12-21 17:05

论文笔记 | Nature 2023 FunSearch：利用大语言模型在数学科学领域探索新的发现

文章目录一、前言二、主要内容三、总结CSDN叶庭云：https://yetingyun.blog.csdn.net/一、前言科学中有许多难以解决的问题，这些问题难以获得确切解答，但却相对容易进行验证。在数学和计算机科学领域，这类问题被称为NP完全优化问题（NP-completeoptimizationproblems）。人们普遍认为不存在能够在“可接受时间”内（即多项式时间内）解决此类问题的算法，

叶庭云·2023-12-21 12:22

【论文笔记】Distilling the Knowledge in a Neural Network

Abstract几乎任何机器学习算法性能提升的一个非常简单的方法是在相同数据上训练多个不同的模型，然后对它们的预测结果进行平均。不幸的是，使用整个模型集合进行预测繁琐，可能会因为计算成本过高而难以部署给大量用户，尤其是如果各个模型是庞大的神经网络时。研究表明，可以将集合中的知识压缩成一个单一模型，这样更容易部署，而我们则进一步使用不同的压缩技术发展了这种方法。本文在MNIST数据集上取得了令人惊讶

xhyu61·2023-12-21 10:48

【论文笔记】MCANet: Medical Image Segmentation withMulti-Scale Cross-Axis Attention

医疗图像分割任务中，捕获多尺度信息、构建长期依赖对分割结果有非常大的影响。该论文提出了Multi-scaleCross-axisAttention（MCA）模块，融合了多尺度特征，并使用Attention提取全局上下文信息。论文地址：MCANet:MedicalImageSegmentationwithMulti-ScaleCross-AxisAttention代码地址：https://githu

justld·2023-12-21 10:47

论文笔记 | ICLR 2023 WikiWhy：回答和解释因果问题

文章目录一、前言二、主要内容三、总结CSDN叶庭云：https://yetingyun.blog.csdn.net/一、前言ICLR2023|Accept:notable-top-5%：《WikiWhy:AnsweringandExplainingCause-and-EffectQuestions》一段话总结：WikiWhy是一个新的QA数据集，围绕一个新的任务建立：用自然语言解释为什么一个答案是

叶庭云·2023-12-21 04:18

【论文笔记】动态蛇卷积（Dynamic Snake Convolution）

精确分割拓扑管状结构例如血管和道路，对医疗各个领域至关重要，可确保下游任务的准确性和效率。然而许多因素使分割任务变得复杂，包括细小脆弱的局部结构和复杂多变的全局形态。针对这个问题，作者提出了动态蛇卷积，该结构在管状分割任务上获得了极好的性能。论文：DynamicSnakeConvolutionbasedonTopologicalGeometricConstraintsforTubularStruc

justld·2023-12-21 02:37

论文笔记：Accurate Localization using LTE Signaling Data

1intro论文提出LTELoc，仅使用信令数据实现精准定位信令数据已经包含在已在LTE系统中，因此这种方法几乎不需要数据获取成本仅使用TA（时序提前）和RSRP【这里单位是瓦】（参考信号接收功率）TA值对应于信号从手机到达基站所需的时间长度——>考虑到光速，它相当于用户设备与基站之间的距离在4GLTE网络中，TA值介于0到63之间，每个步骤代表一个比特周期（大约0.5208μs）的提前。以大约3

UQI-LIUWJ·2023-12-20 23:16

论文笔记 Origin-Destination Matrix Prediction via Graph Convolution: aNew Perspective of Passenger Dema

19KDD1intro研究内容：OD矩阵预测（ODMP）预测在给定时间段内从一个地理区域到另一个地理区域的叫车订单数量本文提出了一种基于网格嵌入的单馈多任务学习模型(GEML)，同时考虑出行信息和地理特征，基于图对出行模式进行建模如果直接将已有的GCNs应用到OD矩阵所生成的图上，会出现以下问题：由于数据稀疏，学习到的具有很少订单的网格嵌入往往是不可靠和无效的对于没有任何历史订单记录的孤立节点(例

UQI-LIUWJ·2023-12-20 23:46

Stable Diffusion超详细教程！从0-1入门到进阶

文章目录一、本地部署StableDiffusion前言电脑配置安装方法启动SD二、界面基础了解界面三、了解模型下载模型模型选择1.Checkpoint2.Lora3.VAE4.Textualinversion

风吹落叶花飘荡·2023-12-20 15:00

论文笔记 | ICLR 2023 ReAct：通过整合推理和行动来增强语言模型

文章目录一、前言二、主要内容三、总结CSDN叶庭云：https://yetingyun.blog.csdn.net/一、前言ICLR2023|Accept:notable-top-5%：《ReAct:SynergizingReasoningandActinginLanguageModels》一句话总结：ReAct方法在问答任务中通过提示大语言模型生成与任务相关的推理文本，并根据需求生成搜索或调用工

叶庭云·2023-12-20 13:52

【工作】思“运算”

（论文笔记及思考）培养小学生数学运算能力主要体现在以下几个方面：1-培养学生对数学运算的兴趣；多种形式的训练（如：游戏、竞赛、算式卡片、黑板视算、听算、限时口算、自编计算题等）。

Telling谭·2023-12-20 11:28

【扩散模型Diffusion Model系列】0-从VAE开始（隐变量模型、KL散度、最大化似然与AIGC的关系）

相比于GAN(GenerativeAdversarialNetwork)，VAE在数学上有着更加良好的性质，有利于理论的分析和实现。

Leafing_·2023-12-20 08:46

深度学习中的KL散度

在机器学习、深度学习领域中，KL散度被广泛运用于变分自编码器中(VariationalAutoEncoder,简称VAE)、E

智慧医疗探索者·2023-12-20 01:54

论文笔记：Bilinear Attention Networks

更精简的论文学习笔记1、摘要多模态学习中的注意力网络提供了一种选择性地利用给定视觉信息的有效方法。然而，学习每一对多模态输入通道的注意力分布的计算成本是非常昂贵的。为了解决这个问题，共同注意力为每个模态建立了两个独立的注意分布，忽略了多模态输入之间的相互作用。在本文中，我们提出了双线性注意力网络（BAN），它可以找到双线性注意力分布来无缝地利用给定地视觉语言信息。BAN考虑两组输入通道之间的双线性

hongyuyahei·2023-12-18 17:30

【论文笔记】RepVGG: Making VGG-style ConvNets Great Again

RepVGG:MakingVGG-styleConvNetsGreatAgain目录RepVGG:MakingVGG-styleConvNetsGreatAgain1.Introduction1.1多分支网络结构的缺点1.2RepVGG优点2.ModelRe-parameterization（模型重参数化）2.1.DiracNet2.2WinogradConvolution3.BuildingRe

chairon·2023-12-18 11:33

变分自编码器（VAE）初识

目录AE回顾VAEVAE简述VAE中的DecoderVAE的目标函数VAE中的EncoderVAE的架构参数重整化VAE的损失函数CVAE测试代码：参考博客AE回顾Auto-Encoder，称自编码器，

碧蓝的天空丶·2023-12-18 08:38

论文笔记《NeuralField-LDM: Scene Generation with Hierarchical Latent Diffusion Models》

paper：https://arxiv.org/abs/2304.09787code：问就是没有code！主旨：用两个autoencoder

浅度断墨·2023-12-18 01:53

论文笔记：CQR-SQL: Conversational Question Reformulation Enhanced Context-Dependent Text-to-SQL Parsers

论文笔记：CQR-SQL:ConversationalQuestionReformulationEnhancedContext-DependentText-to-SQLParsers目录论文笔记：CQR-SQL

Q同学的nlp笔记·2023-12-17 14:29

[论文笔记] GAMMA: A Graph Pattern Mining Framework for Large Graphs on GPU

GAMMA:AGraphPatternMiningFrameworkforLargeGraphsonGPUGAMMA:基于GPU的针对大型图的图模式挖掘框架[Paper][Code]ICDE’23摘要提出了一个基于GPU的核外(out-of-core)图模式挖掘框架(GraphPatternMining,GPM)GAMMA,充分利用主机内存来处理大型图.GAMMA采用对用户透明的自适应隐式主机内存

PeakCrosser·2023-12-17 06:17

[论文笔记] 大模型gpu机器推理测速踩坑 (llama/gpt类)

cpu没报错，换gpu就报错。以下是一些踩坑：坑1：要指定gpu，可以在importtorch之前指定gpu。model=LlamaForCausalLM.from_pretrained(model_path,trust_remote_code=True).to(device)报错:RuntimeError('Expectedalltensorstobeonthesamedevice,butfou

心心喵·2023-12-17 00:02

[论文笔记] chatgpt系列 SparseMOE—GPT4的MOE结构

SparseMOE:稀疏激活的MOESwtichMOE，所有token要在K个专家网络中，选择一个专家网络。显存增加。ExpertsChoice：路由MOE：由专家选择token。这样不同的专家都选择到某个token，也可以不选择该token。由于FFN层的时间复杂度和attention层不同，FFN层的时间复杂度在O(N*d)，N是输入长度，d是隐层纬度。attention层的时间复杂度在O(N

心心喵·2023-12-17 00:59

开始吧！

最后，还是选择了这里，记录下我的点滴所思所想，就像VAE曾在新浪博客上所做的那样。所以这是第一天，祝大家晚安！

Xavierlala·2023-12-17 00:34

生成式模型对比：扩散模型、GAN 与 VAE

在本文中，我们的目标是提供深度生成式模型的全面比较，包括扩散模型、生成对抗网络（GAN）和变分自编码器（VAE）。我将回顾它们的基本原则、优点和缺点。目标是清楚地了解这些模型之间的差异和相似

Garry1248·2023-12-16 14:39

12:Repurposing Diffusion-Based Image Generators for Monocular Depth Estimation

从预训练的稳定扩散开始，使用原始的稳定扩散VAE将图像x和深度d编码到潜在空间中。通过优化相对于深度潜在代码的标准扩散目标来微调U-Net。图像调节是通过在将两个潜在代码

C--G·2023-12-16 07:28

clean-label backdoor attacks 论文笔记

#论文笔记#1.论文信息论文名称Clean-LabelBackdoorAttacks作者AlexanderTurner(MIT)会议/出版社ICLR2019pdf本地pdf在线pdf代码trojanzoo-clean-label

wwweiyx·2023-12-16 06:10

Stable Diffusion的数学原理

VAE包括两部分：编码器和解码器。编码器（En

h52013141·2023-12-15 22:51

[论文笔记] 大模型主流Benchmark测试集介绍

自然语言处理（NLP）的进步往往通过在各种benchmark测试集上的表现来衡量。随着多语言和跨语言NLP研究的兴起，越来越多的多语言测试集被提出以评估模型在不同语言和文化背景下的泛化能力。在这篇文章中，我们将介绍几个主流的多语言NLPbenchmark测试集，包括ARCChallenge、HellaSWAG、MMLU、Multi-taskingTestGeneration(MTG)、PAWS-X

心心喵·2023-12-15 12:43

geolife笔记：比较不同轨迹相似度方法

这里采用论文笔记：DeepRepresentationLearningforTrajectorySimilarityComputation-CSDN博客中的方法：2收集每一个id对应的轨迹2.1经纬度转

UQI-LIUWJ·2023-12-15 12:59

论文笔记：Dual Dynamic Spatial-Temporal Graph ConvolutionNetwork for Traffic Prediction

IEEETRANSACTIONSONINTELLIGENTTRANSPORTATIONSYSTEMS20221intro1.1背景GCN和TCN被引入到交通预测中GCN能够保留交通网络的图结构信息TCN能够捕获交通流的时间特征基于GCN的交通预测方法依赖于如何构建图或邻接矩阵将道路段的交通测量作为节点通过不同道路段的直接连接来构建图道路段上的交通流量测量及其相关性在空间和时间上会动态变化（eg交通

UQI-LIUWJ·2023-12-15 12:59

【LOGO】独特符号

【上色】提取线稿-CSDN博客提取线稿：1：将图片导入到文生图-lineart采样数：30（越高越好，一般20-30之间）提示词：8模型：realisticVisionV51_v51VAE使用（）将岛屿的权重价高

oneREAD·2023-12-15 10:19

论文笔记：使用多角度高光谱数据估算冬小麦垂直方向叶片叶绿素浓度

本文简单介绍使用多角度高光谱数据估算冬小麦垂直方向叶片叶绿素浓度的方法和实践，论文基本信息：Wu,Bin;Huang,Wenjiang;Ye,Huichun;Luo,Peilei;Ren,Yu;Kong,Weiping.2021."UsingMulti-AngularHyperspectralDatatoEstimatetheVerticalDistributionofLeafChlorophyl

HenryYanWhu·2023-12-15 07:27

使用Pytorch实现变分自编码器

使用Pytorch实现变分自编码器可以结合这篇VAE讲解文章阅读这篇blogpost代码。

AIHUBEI·2023-12-15 05:37

【论文笔记】HetGNN

HeterogeneousGraphNeuralNetwork2019KDD论文链接：https://dl.acm.org/doi/pdf/10.1145/3292500.3330961官方代码：https://github.com/chuxuzhang/KDD2019_HetGNN个人实现：https://github.com/ZZy979/pytorch-tutorial/tree/maste

zzy979·2023-12-15 05:33

论文笔记：详解GraphSAGE

图学习的小张·2023-12-15 05:32

论文笔记：www2019 层次图视角的半监督图分类

Semi-SupervisedGraphClassification:AHierarchicalGraphPerspective（层次图视角的半监督图分类）是层次图提出的第一篇文章，也是我组会讲的第一篇文章，整理了我的笔记，对论文中的SAGE模块做了比较详细的介绍模型概述损失函数SAGE模块（SelfAttentionGraphEmbedding）算法描述与解释实验参考文献模型概述所谓层次图指

图学习的小张·2023-12-15 05:32

论文笔记：详解DeepWalk与Node2vec

最近读了DeepWalk和Node2vec这两篇图学习的经典文章，对自己的笔记进行了整理。DeepWalk算法笔记应用背景功能描述基本概念随机游走（RandomWalks）幂律分布（Connection:Powerlaws）词嵌入学习的经典方法（Word2vec）DeepWalk模型与损失函数推导算法描述与解释（伪代码）时间复杂度分析DeepWalk的改进算法（Node2vec）算法描述与解释（伪

图学习的小张·2023-12-15 05:02

论文笔记：详解图注意力网络（GAT）

整理了GAT（ICLR2018GraphAttentionNetwork）论文的阅读笔记背景图注意力网络的构建模块与其他模型对比实验背景图神经网络的任务可以分为直推式(Transductive)学习与归纳(Inductive)学习：Inductivelearning，翻译成中文可以叫做“归纳式学习”，就是从已有数据中归纳出模式来，应用于新的数据和任务。在图学习的训练过程中，看不到没有标注的节点

图学习的小张·2023-12-15 05:16

【论文笔记】Gemini: A Family of Highly Capable Multimodal Models——细看Gemini

Gemini【一句话总结，对标GPT4，模型还是transformer的docoder部分，提出三个不同版本的Gemini模型，Ultra的最牛逼，Nano的可以用在手机上。】谷歌提出了一个新系列多模态模型——Gemini家族模型，包括Ultra，Pro，Nano（1.5BNano-1，3.25BNano-2）三种尺寸（模型由大到小）。在图像、音频、视频和文本理解方面都表现出现，GeminiUlt

Yulki·2023-12-15 01:40

自动数据增广论文笔记 | AutoAugment: Learning Augmentation Strategies from Data

谷歌大脑出品paper:https://arxiv.org/abs/1805.09501这里是个论文的阅读心得，笔记，不等同论文全部内容文章目录一、摘要1.1翻译1.2笔记二、(第三部分)自动增强:直接在感兴趣的数据集上搜索最佳增强策略2.1翻译2.2笔记三、(第四部分)实验与结果3.1翻译3.2笔记四、跳出论文，转入应用——timm包3.1timm包的自动增强搜索策略3.2随机增强参数解释3.3

Thomas_Cai·2023-12-15 01:29

ViTDet论文笔记

arxiv：https://arxiv.org/abs/2203.16527GitHub：https://github.com/ViTAE-Transformer/ViTDet摘要本文提出使用plain，non-hierarchical视觉transformer作为目标检测的主干网络。通过这种设计可以使得ViT结构模型不需要再重新设计一个分层ViT进行预训练然后微调进行目标检测。在微调阶段通过微小

hello_dear_you·2023-12-14 18:11

OCR文本检测论文阅读笔记

.......42OCR的技术路线...............................................................................53DB论文笔记

PatrickStar8·2023-12-14 18:04

扩散模型学习（三）

文章目录一、StableDiffusion使用二、管线的组成部分1.可变分自编码器（VAE）2.分词器（Tokenizer）和文本编码器（TextEncoder）3.UNet4.调度器（Scheduler

李明朔·2023-12-06 18:51

论文笔记：Bilinear CNN在fine grained图片分类上的进展

1.BilinearCNNModelsforFine-grainedVisualRecognition论文链接：http://vis-www.cs.umass.edu/bcnn/docs/bcnn_iccv15.pdf主要就是用外积（matrixouterproduct）来组合两个CNN（A和B）的featuremap2.CompactBilinearPooling（CVPR2016）论文链接：h

TerenceChen1210·2023-12-06 17:33

推荐频道

vae论文笔记