transformer论文阅读

seamless-m4t-v2-large transformers 使用gpu推理

GPUversion:step1,model=model.to('cuda:0')ormodel=model.to('cuda')step2:audio_inputs=processor(audios=audio,return_tensors="pt").to('cuda:0')oraudio_inputs=processor(audios=audio,return_tensors="pt").t
pkuyjxu·2023-12-25 04:23

Transformer中的position encoding

参考Transformer中的positionencoding(位置编码一)_zuoyou-HPU的博客-CSDN博客正余弦编码公式解读：1.
qq_54867493·2023-12-25 04:18

论文阅读“Multi-View Clustering via Deep Matrix Factorization”

MVCisintensivelystudiedrecentlybyleveragingtheheterogeneousdatatoachievethesamegoal.多视图的本质就是使用异构的数据来实现共同的目标。不同的特征表示来自数据集的不同信息。MVCaimstointegratemultiplefeaturesetstogether,anduncovertheconsistentlaten
掉了西红柿皮_Kee·2023-12-25 02:15

今日无更新

现在梳理一下自己手里的锤子：转到Pytorch，使用AllenNLP了解Transformer、了解LSTM了解jieba等分词工具了解Gensim等NLP处理工具接下来要做的：基于Pytorch搞定LSTM
我的昵称违规了·2023-12-25 02:21

图像识别中的 Vision Transformers (ViT)

引言VisionTransformers(ViT)最近已成为卷积神经网络(CNN)的竞争替代品，而卷积神经网络(CNN)目前在不同的图像识别计算机视觉任务中处于最先进的水平。
Garry1248·2023-12-24 21:04

【Python机器学习系列】一文搞懂机器学习中的转换器和估计器（附案例）

一、引言表格数据一套完整的机器学习建模流程如下：在机器学习中，转换器（Transformer）和估计器（Estimator）是两个重要的概念，转换器和估计器在机器学习中扮演不同的角色，但它们通常可以结合在一起构建一个完整的机器学习流程
数据杂坛·2023-12-24 20:38

Transformer 模型设计的灵感

Transformer模型的设计确实是通过深刻理解序列处理和注意力机制的基础上，结合了并行计算的优势，取得了显著的性能提升。
科学禅道·2023-12-24 17:50

【大语言模型】Transformer原理以及运行机制

目录参考资料Transformer是一种序列到序列（Sequence-to-Sequence）的模型，用于处理自然语言处理任务。
后端研发Marion·2023-12-24 17:18

【域适应十三】2023-CVPR Patch-Mix Transformer for Unsupervised Domain Adaptation: A GamePerspective

1.motivation最近，很多工作致力于利用视觉转换器(ViT)来完成具有挑战性的无监督域适应(UDA)任务。它们通常采用ViT中的CrossAttention进行直接的域对齐（CDTrans）。然而，由于CrossAttention的性能高度依赖于目标样本的伪标签质量，当域间隙较大时，域对齐的效果就会降低。为了解决这一问题，本文从博弈的角度，提出了一个被称为PMTrans的模型，用一个中间域
羊驼不驼a·2023-12-24 16:13

CV算法面试题学习

CV算法面试题学习1点在多边形内（pointinpolygon）2高斯滤波器3ViTPatchEmbeddingPositionEmbeddingTransformerEncoder完整的ViT模型4SE
电子系的小欣·2023-12-24 15:14

【BBuf的CUDA笔记】十，Linear Attention的cuda kernel实现解析

0x0.问题引入LinearAttention的论文如下：TransformersareRNNs:FastAutoregressiveTransformerswithLinearAttention：https
just_sort·2023-12-24 15:02

神经网络也能像人类利用外围视觉一样观察图像

本篇分享论文『PeripheralVisionTransformer』，POSTECH&MSRA&中科大提出PerViT，让神经网络也能关注图片中的重点信息！
FightingCV·2023-12-24 14:07

【CVPR2023】可持续检测的Transformer用于增量对象检测

在这个背景下，论文提出了一种创新性的方法，称为ContinuaLDEtectionTRansformer（CL-DETR），它基于Tran
陈子迩·2023-12-24 14:41

【llm使用】ChatGLM3-6B Transformers部署调用

文章目录环境准备模型下载代码准备部署说明：本文转自国内开源组织datawhale的repo：self-llm环境准备在autodl平台中租一个3090等24G显存的显卡机器，如下图所示镜像选择PyTorch–>2.0.0–>3.8(ubuntu20.04)–>11.8接下来打开刚刚租用服务器的JupyterLab，并且打开其中的终端开始环境配置、模型下载和运行demo。pip换源和安装依赖包#升级
自律版光追·2023-12-24 11:47

论文复现 | Anomaly Transformer: Time Series Anomaly Detection with Association Discrepancy

“Anomalytransformer:Timeseriesanomalydetectionwithassociationdiscrepancy.”arXivpreprintarXiv:2110.02642
一条独龙·2023-12-24 09:26

深度学习（七）：bert理解之输入形式

为了解决这些问题，一种新的预训练方法随即被提出，即BERT（BidirectionalEncoderRepresentationsfromTransformers）。
从零开始的奋豆·2023-12-24 09:55

【Stable Diffusion Inpainting】环境配置

name:ldmdependencies:-pip:--egit+https:或者pipinstall-egit+https://github.com/CompVis/taming-transformers.git
prinTao·2023-12-24 08:54

深度学习（八）：bert理解之transformer

1.主要结构transformer是一种深度学习模型，主要用于处理序列数据，如自然语言处理任务。它在2017年由Vaswani等人在论文“AttentionisAllYouNeed”中提出。
从零开始的奋豆·2023-12-24 06:53

UFO论文笔记

1TitleAUnifiedTransformerFrameworkforGroup-basedSegmentation:Co-Segmentation,Co-SaliencyDetectionandVideoSalientObjectDetection
umbrellazg·2023-12-24 06:52

轴承故障诊断分类模型全家桶-最全教程

Python轴承故障诊断(三)经验模态分解EMD-CSDN博客Pytorch-LSTM轴承故障一维信号分类(一)-CSDN博客Pytorch-CNN轴承故障一维信号分类(二)-CSDN博客Pytorch-Transformer
建模先锋·2023-12-24 05:45

Long-Context下LLM模型架构全面介绍

深度学习自然语言处理原创作者：cola随着ChatGPT的快速发展，基于Transformer的大型语言模型(LLM)为人工通用智能(AGI)铺平了一条革命性的道路，并已应用于知识库、人机界面和动态代理等不同领域
大数据AI人工智能培训专家培训讲师叶梓·2023-12-24 01:31

LLaMA开源大模型源码分析！

Datawhale干货作者：宋志学，Datawhale成员花了一晚上照着transformers仓库的LLaMA源码，把张量并行和梯度保存的代码删掉，只留下模型基础结构，梳理了一遍LLaMA的模型结构。
Datawhale·2023-12-23 16:17

再见卷积神经网络，使用 Transformers 创建计算机视觉模型

本文旨在介绍/更新Transformers背后的主要思想，并介绍在计算机视觉应用中使用这些模型的最新进展。读完这篇文章，你会知道……为什么Transformers在NLP任务中的表现优于SOTA模型。
AAI机器之心·2023-12-23 14:13

Appearance-Motion Memory Consistency Network for Video Anomaly Detection 论文阅读

Appearance-MotionMemoryConsistencyNetworkforVideoAnomalyDetection论文阅读AbstractIntroductionRelatedWorkMethodExperimentsConclusions
何大春·2023-12-23 13:54

图像融合论文阅读笔记：SwinFusion: Cross-domain Long-range Learning for General Image Fusion via Swin Transforme

article{ma2022swinfusion,title={SwinFusion:Cross-domainlong-rangelearningforgeneralimagefusionviaswintransformer
qiang42·2023-12-23 13:24

【开放集检测】OpenGAN: Open-Set Recognition via Open Data Generation 论文阅读

文章目录英语积累为什么使用GAN系列网络进行开放集检测摘要1.前言2.相关工作开集检测基于GAN网络的开集检测基于暴露异常数据的开集检测3.OpenGAN3.1公式建模3.1.1二分类方法存在问题如何解决3.1.2使用合成数据存在问题如何解决3.1.3OpenGAN3.1.4模型验证3.2先前基于GAN方法的总结3.2.1生成器vs判别器3.2.2Featuresvs.Pixels3.2.3Cla
好喜欢吃红柚子·2023-12-23 13:24

图像融合论文阅读：(MFEIF)学习深度多尺度特征集成和边缘注意引导的图像融合

@article{liu2021learning,title={Learningadeepmulti-scalefeatureensembleandanedge-attentionguidanceforimagefusion},author={Liu,JinyuanandFan,XinandJiang,JiandLiu,RishengandLuo,Zhongxuan},journal={IEEET
qiang42·2023-12-23 13:23

图像融合论文阅读：DIDFuse: Deep Image Decomposition for Infrared and Visible Image Fusion

@article{zhao2020didfuse,title={DIDFuse:Deepimagedecompositionforinfraredandvisibleimagefusion},author={Zhao,ZixiangandXu,ShuangandZhang,ChunxiaandLiu,JunminandLi,PengfeiandZhang,Jiangshe},journal={ar
qiang42·2023-12-23 13:53

图像融合论文阅读：GANMcC: A Generative Adversarial Network With Multiclassification Constraints for IVIF

@article{ma2020ganmcc,title={GANMcC:Agenerativeadversarialnetworkwithmulticlassificationconstraintsforinfraredandvisibleimagefusion},author={Ma,JiayiandZhang,HaoandShao,ZhenfengandLiang,PengweiandXu,H
qiang42·2023-12-23 13:53

图像融合论文阅读：DeepFuse: A Deep Unsupervised Approach for Exposure Fusion with Extreme Exposure Image Pair

@inproceedings{ram2017deepfuse,title={Deepfuse:Adeepunsupervisedapproachforexposurefusionwithextremeexposureimagepairs},author={RamPrabhakar,KandSaiSrikar,VandVenkateshBabu,R},booktitle={Proceedingsof
qiang42·2023-12-23 13:53

图像融合论文阅读：IFCNN: A general image fusion framework based on convolutional neural network

@article{zhang2020ifcnn,title={IFCNN:Ageneralimagefusionframeworkbasedonconvolutionalneuralnetwork},author={Zhang,YuandLiu,YuandSun,PengandYan,HanandZhao,XiaolinandZhang,Li},journal={InformationFusion
qiang42·2023-12-23 13:52

图像融合论文阅读：DDcGAN: 一种用于多分辨率图像融合的双鉴别器条件生成对抗网络

@article{ma2020ddcgan,title={DDcGAN:Adual-discriminatorconditionalgenerativeadversarialnetworkformulti-resolutionimagefusion},author={Ma,JiayiandXu,HanandJiang,JunjunandMei,XiaoguangandZhang,Xiao-Ping
qiang42·2023-12-23 13:22

图像融合论文阅读：SDNet: A Versatile Squeeze-and-Decomposition Network for Real-Time Image Fusion

@article{zhang2021sdnet,title={SDNet:Aversatilesqueeze-and-decompositionnetworkforreal-timeimagefusion},author={Zhang,HaoandMa,Jiayi},journal={InternationalJournalofComputerVision},volume={129},pages=
qiang42·2023-12-23 13:22

图像融合论文阅读：(PMGI)一种基于梯度与强度比例保持的快速统一图像融合网络

@inproceedings{zhang2020rethinking,title={Rethinkingtheimagefusion:Afastunifiedimagefusionnetworkbasedonproportionalmaintenanceofgradientandintensity},author={Zhang,HaoandXu,HanandXiao,YangandGuo,Xiao
qiang42·2023-12-23 13:22

什么是图像融合？（一看就通，通俗易懂）

文章目录❓什么是图像融合红外与可见光图像融合多曝光图像融合多聚焦图像融合医学图像融合（PET-MRI）传送门图像融合相关论文阅读笔记图像融合论文baseline总结其他论文其他总结❓什么是图像融合所谓图像融合
qiang42·2023-12-23 12:51

图像融合论文阅读：U2Fusion: A Unified Unsupervised Image Fusion Network

@ARTICLE{9151265,author={Xu,HanandMa,JiayiandJiang,JunjunandGuo,XiaojieandLing,Haibin},journal={IEEETransactionsonPatternAnalysisandMachineIntelligence},title={U2Fusion:AUnifiedUnsupervisedImageFusion
qiang42·2023-12-23 12:51

论文阅读：FusionGAN: A generative adversarial network for infrared and visible image fusion

@article{ma2019fusiongan,title={FusionGAN:Agenerativeadversarialnetworkforinfraredandvisibleimagefusion},author={Ma,JiayiandYu,WeiandLiang,PengweiandLi,ChangandJiang,Junjun},journal={Informationfusion
qiang42·2023-12-23 12:51

图像融合论文阅读：PIAFusion: A progressive infrared and visible image fusion network based on illumination aw

[原文地址](https://www.sciencedirect.com/science/article/abs/pii/S156625352200032X)SCI1区；IF18.6；武汉大学；2022年7月；《InformationFusion》文章目录AbstractKeywordsIntroduction传统方法数据驱动的方法AE自编码器CNNGAN融合阶段输入融合中途融合（halfwayf
qiang42·2023-12-23 12:20

可见与红外光图像融合论文阅读：Visible and Infrared Image Fusion Using Deep Learning

@article{zhang2023visible,title={VisibleandInfraredImageFusionUsingDeepLearning},author={Zhang,XingchenandDemiris,Yiannis},journal={IEEETransactionsonPatternAnalysisandMachineIntelligence},year={2023}
qiang42·2023-12-23 12:20

图像融合论文：CDDFuse: Correlation-Driven Dual-Branch Feature Decomposition for Multi-Modality Image Fusion

图像融合论文阅读：CDDFuse:Correlation-DrivenDual-BranchFeatureDecompositionforMulti-ModalityImageFusion@inproceedings
qiang42·2023-12-23 12:20

图像融合论文阅读：DenseFuse: A fusion approach to infrared and visible images

@article{li2018densefuse,title={DenseFuse:Afusionapproachtoinfraredandvisibleimages},author={Li,HuiandWu,Xiao-Jun},journal={IEEETransactionsonImageProcessing},volume={28},number={5},pages={2614–2623},
qiang42·2023-12-23 12:19

基于ChatGLM搭建专业领域问答机器人的思路

下面提出一个专业医学问题交于ChatGLM回答，代码如下：fromtransformer
新知图书·2023-12-23 12:52

SSD目标检测相关知识和代码整理

注:都是转载一、SSD论文翻译(转载)二、论文阅读：SSD:SingleShotMultiBoxDetector三、论文代码-caffe原生版本四、论文代码-TensorFlow版本
hjxu2016·2023-12-23 11:22

HW4 Speaker classification-SIMPLE (TRANSFORMER)

TaskdescriptionClassifythespeakersofgivenfeatures.Maingoal:Learnhowtousetransformer.Baselines:Easy:R
闪闪发亮的小星星·2023-12-23 10:20

LLM之RAG实战（六）| 高级RAG 02：选择最佳embedding和重排序模型

我们有多种embedding模型可供选择，包括OpenAI、CohereAI和开源sentencetransformers。
wshzd·2023-12-23 09:27

huggingface报错记录

1.OSError:Unabletoloadweightsfrompytorchcheckpointfilefor'/mnt/workspace/wzf/transformer/model/vit-gpt2
小趴菜日记·2023-12-23 07:49

论文阅读——llava

VisualInstructionTuningLLaVA指令智能体分为两类：端到端的，通过LangChain[1]/LLM[35]协调各种模型的系统。数据集生成用GPT辅助生成的，具体不写了。模型结构：inputimageXvLLM：Vicunavisualencoder：pre-trainedCLIPvisualencoderViT-L/14W是为了和词向量一个维度（weapplyatraina
じんじん·2023-12-23 06:39

论文阅读——BLIP-2

BLIP-2:BootstrappingLanguage-ImagePre-trainingwithFrozenImageEncodersandLargeLanguageModels1模型在预训练视觉模型和预训练大语言模型中间架起了一座桥梁。两阶段训练，视觉文本表示和视觉到语言生成学习。Q-Former由两个转换器子模块组成，它们共享相同的自注意层：（1）与冻结图像编码器交互用于视觉特征提取的图像
じんじん·2023-12-23 06:39

论文阅读——Flamingo

Flamingo:aVisualLanguageModelforFew-ShotLearning模型建模了给定交织的图片或支=视频的条件下文本y的最大似然：1VisualprocessingandthePerceiverResamplerVisionEncoder：frompixelstofeatures。预训练并且冻结的NFNet，在我们的数据集上使用文本图片对的对比损失训练，然后把提取的特征打
じんじん·2023-12-23 06:37

大语言模型的三种主要架构 Decoder-Only、Encoder-Only、Encoder-Decoder

现代大型语言模型（LLM）的演变进化树，如下图：https://arxiv.org/pdf/2304.13712.pdf基于Transformer模型以非灰色显示：decoder-only模型在蓝色分支
Charles_yy·2023-12-23 06:35
上一页 28 29 30 31 32 33 34 35 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他