transformer论文阅读第95页

TransUNet：用于医学图像分割的Transformers强大编码器

随着最近Transformers的快速发展，开始有一种要统一视觉领域的感觉。现在transformers终于向U-Net下手了。

skyfengye·2023-08-13 09:35

FLatten Transformer 简化版Transformer

虽然现在Transformer比较火，在分割上面也应用的比较多，但是我一直不喜欢用，其中一个原因是结构太复杂了，平时我主要用一个sel-attention感觉都有点复杂了，如果用多头会更复杂。

skyfengye·2023-08-13 09:35

机器学习&&深度学习——从编码器-解码器架构到seq2seq（机器翻译）

实战完，我们需要开始学习当今很先进的transformer以及BERT，并且做点模型出来了。最近有点累了，做完这个以后会休息一两天然后继续肝，预推免前一定要

布布要成为最负责的男人·2023-08-13 07:49

PyTorch翻译官网教程-LANGUAGE MODELING WITH NN.TRANSFORMER AND TORCHTEXT

官网链接LanguageModelingwithnn.Transformerandtorchtext—PyTorchTutorials2.0.1+cu117documentation使用NN.TRANSFORMER

poorCoder_·2023-08-13 06:21

8.10论文阅读

文章目录ThemultimodalMRIbraintumorsegmentationbasedonAD-Net摘要本文方法损失函数实验结果max-vit-unet:多轴注意力医学图像分割摘要本文方法实验结果ThemultimodalMRIbraintumorsegmentationbasedonAD-Net摘要基于磁共振成像(MRI)的多模态胶质瘤图像提供了肿瘤边界的不同特征，其中多模态特征的提取

小杨小杨1·2023-08-13 05:19

论文阅读-Identifying Coordinated Accounts on Social Media through Hidden Influence and Group Behaviours

目录摘要1INTRODUCTION2RELATEDWORK3TASKDEFINITIONANDPRELIMINARIES3.1TaskDefinition3.2时间点处理4协调检测方法4.1账户活动建模4.1.1AMDN架构和训练。4.2隐藏组建模4.3共同学习5实验结果5.1DataCollection5.1.1俄罗斯互联网研究局（IRA）协调行动5.1.2COVID-19大流行。5.2基线和模

无脑敲代码，bug漫天飞·2023-08-13 05:18

论文阅读：《Evidence for a fundamental property of steering》

文章目录1背景2方法2.1方向盘修正行为标识2.2数据2.3数据拟合3结果3.1速率曲线3.2恒定的转向时间3.3基本运动元素的叠加3.4其他实验4讨论5总结（个人）1背景这篇短文的主要目的是去阐述“转方向盘”这一行为的基本性质：方向盘修正行为大致上服从一个方向盘转动速率的钟形曲线。（类似于reachingbehavior如下图，所谓reahcingbehavior，就是指人伸手去摸东西）

就叫昵称吧·2023-08-13 05:48

论文阅读：《The Benefits and Tradeoffs for Varied High-Severity Injury Risk Thresholds for Advanced Autom》

文章目录1背景2本文目标3方法3.1数据来源3.2数据分析3.3结果4总结论文全名：TheBenefitsandTradeoffsforVariedHigh-SeverityInjuryRiskThresholdsforAdvancedAutomaticCrashNotificationSystems1背景 AdvancedAutomaticCollisionNotification(AAC

就叫昵称吧·2023-08-13 05:48

论文阅读：《Modeling Road User Response Timing in Naturalistic Traffic Conflicts: A surprise-based framew》

文章目录1背景2响应时间的测量与建模（inthewild）2.1传统的“感知-响应时间”概念及其局限性2.2道路使用者响应时间建模框架（inthewild）2.3ADS响应时间benchmark的启发式模型实践方法3方法3.1Rear-end冲突场景定义3.2自然驾驶数据3.3可见的跟车过近计算（Visualloomingcomputation）3.4数据标注3.5数据采样方法4结果4.1响应时间

就叫昵称吧·2023-08-13 05:18

Pytorch实现中文文本分类任务（Bert，ERNIE，TextCNN，TextRNN，FastText，TextRCNN，BiLSTM_Attention, DPCNN, Transformer）

神经网络模型：TextCNN，TextRNN，FastText，TextRCNN，BiLSTM_Attention,DPCNN,Transformer预训练

JackHCC·2023-08-13 05:03

DytanVO:Joint Refinement of Visual Odometry and Motion Segmentation in Dynamic Environments 论文阅读

论文信息题目：DytanVO：JointRefinementofVisualOdometryandMotionSegmentationinDynamicEnvironments作者：ShihaoShen,YilinCai,WenshanWang来源：arXiv时间：2023Abstract基于学习的视觉里程计（VO）算法受益于大容量模型和大量注释数据，在常见的静态场景中取得了显着的性能，但在动态、

玛卡巴卡_qin·2023-08-13 05:47

论文阅读——对YOLO的全面回顾：从YOLOV1及以上

对YOLO的全面回顾：从YOLOV1及以上ACOMPREHENSIVEREVIEWOFYOLO:FROMYOLOV1ANDBEYOND期刊：UNDERREVIEWINACMCOMPUTINGSURVEYS摘要：YOLOhasbecomeacentralreal-timeobjectdetectionsystemforrobotics,driverlesscars,andvideomonitorin

不学无术杰哥·2023-08-13 05:15

2023.8.12号论文阅读

文章目录TriFormer:AMulti-modalTransformerFrameworkForMildCognitiveImpairmentConversionPrediction摘要本文方法实验结果

小杨小杨1·2023-08-13 05:45

DIP: NAS(Neural Architecture Search)论文阅读与总结（双份快乐）

文章地址:NAS-DIP:LearningDeepImagePriorwithNeuralArchitectureSearchNeuralArchitectureSearchforDeepImagePrior参考博客:https://zhuanlan.zhihu.com/p/599390720文章目录NAS-DIP:LearningDeepImagePriorwithNeuralArchitect

留小星·2023-08-13 05:14

Exploiting Proximity-Aware Tasks for Embodied Social Navigation 论文阅读

论文信息题目：ExploitingProximity-AwareTasksforEmbodiedSocialNavigation作者：EnricoCancelli，TommasoCampari来源：arXiv时间：2023Abstract学习如何在封闭且空间受限的室内环境中在人类之间导航，是体现主体融入我们社会所需的关键能力。在本文中，我们提出了一种端到端架构，该架构利用邻近感知任务（称为风险和邻

玛卡巴卡_qin·2023-08-13 05:14

论文阅读：《Waymo Public Road Safety Performance Data》

文章目录1背景2方法2.1数据来源2.2碰撞数据3碰撞事件分析4讨论1背景这篇文章是讲waymo道路安全性能数据分析的，主要想表达的是waymo自动驾驶系统在安全上面的出色表现，以向政府、大众提高自己产品的公信力。这篇文章分析的数据是自从2019年到2020年累积的，610万英里的自动驾驶里程，其中还包含65000英里的全无人驾驶里程。在这些里程下，waymo实际发生了18次道路真实碰撞事

就叫昵称吧·2023-08-13 05:14

（WWW2023）论文阅读-Detecting Social Media Manipulation in Low-ResourceLanguages

论文链接：https://arxiv.org/pdf/2011.05367.pdf摘要社交媒体被故意用于恶意目的，包括政治操纵和虚假信息。大多数研究都集中在高资源语言上。然而，恶意行为者会跨国家/地区和语言共享内容，包括资源匮乏的语言。在这里，我们调查是否以及在何种程度上可以在低资源语言设置中检测到恶意行为者。我们发现，2016年美国总统大选后，Twitter打击干扰行动的一部分是，大量用他加禄语

无脑敲代码，bug漫天飞·2023-08-13 05:44

在华为昇腾Ascend910上复现swin_transformer

一、参考资料利用MindSpore复现ICCV2021BestPaperSwinTrasnformer二、运行环境硬件平台[ma-userswin_transformer]$export-pdeclare-xAICPU_FLAG

花花少年·2023-08-13 03:34

Towards Principled Methods for Training Generative Adversarial Networks论文阅读

[toc]1.TowardsPrincipledMethodsforTrainingGenerativeAdversarialNetworksarXiv:1701.04862[cs,stat]tensorflow2代码：https://github.com/zhangkaihua88/ML_Paper2.总结要解决什么问题彻底解决GAN训练不稳定的问题，不再需要小心平衡生成器和判别器的训练程度第一

山雾幻华·2023-08-12 18:02

基于Transformer的目标检测算法学习记录

彭祥.·2023-08-12 18:53

基于DETR (DEtection TRansformer)开发构建MSTAR雷达影像目标检测系统

Together_CZ·2023-08-12 18:51

Win10 训练OWDETR（OW-DETR）

Win10使用OWDETR源代码链接GitHub-akshitac8/OW-DETR:[CVPR2022]OfficialPytorchcodeforOW-DETR:Open-worldDetectionTransformer

随时间进步·2023-08-12 16:28

ModuleNotFoundError: No module named ‘MultiScaleDeformableAttention

下载这个项目的代码GitHub-fundamentalvision/Deformable-DETR:DeformableDETR:DeformableTransformersforEnd-to-EndObjectDetection

月起星九·2023-08-12 16:58

勘探开发人工智能技术：机器学习(6)

0提纲7.1循环神经网络RNN7.2LSTM7.3Transformer7.4U-Net1循环神经网络RNN把上一时刻的输出作为下一时刻的输入之一.1.1全连接神经网络的缺点现在的任务是要利用如下语料来给

HenrySmale·2023-08-12 15:16

Transformer讲解（一）- NLP变形金刚-详细知识介绍

Transformer从零详细解读(可能是你见过最通俗易懂的讲解)_哔哩哔哩_bilibili视频12312Encoder多个循环，结构相同，参数不同(非共享参数)（特别案例albert是参数共享）3.1

计算机视觉-Archer·2023-08-12 15:40

transformer（”变形金刚“）

BackgroundTransformer发明的背景是在循环神经网络业已成熟阶段，但是成熟的循环神经网络例如LSTM和RNNS等对于长文本的分析效果并不是很理想。

Pingyuanyi·2023-08-12 15:10

简单有趣的变形金刚网络（VIT） Vision Transformer（可以直接替换自己数据集）-直接放置自己的数据集就能直接跑（网络结构详解+详细注释代码+核心思想讲解）——pytorch实现

论文题目：AnImageIsWorth16x16Words:TransformersForImageRecognitionAtScale原论文下载链接：https://arxiv.org/abs/2010.11929

小馨馨的小翟·2023-08-12 15:10

transformer--变形金刚

bert就是无监督训练的transformertransformer:seq2seqmodelwith“self-attention”单向的RNN:在输出b4的时候，已经看了a1~a4在输出b3的时候，

Tingsie·2023-08-12 15:39

Attention Is All You Need（Transformer）

目录Abstract1Introduction2Backgroung3ModelArchitecture3.1EncoderandDecoderStacks3.2Attention3.2.1ScaledDot-ProductAttentionself-attention详解3.2.2Multi-HeadAttentionmutil-headattention详解3.2.3Applicationso

CV小Rookie·2023-08-12 15:39

Transformer（“变形金刚”）

所以今天在这里我们要介绍这篇论文的精髓所在——Transformer（“变形金刚”）1.Transformer模型结构在第一次写attention那篇博客中，我们将atte

菅田将暉_·2023-08-12 15:09

【变形金刚01】attention和transformer所有信息

图1.来源：ArsenyTogulev在Unsplash上的照片一、说明这是一篇长文，几乎讨论了人们需要了解的有关注意力机制的所有信息，包括自我注意、查询、键、值、多头注意力、屏蔽多头注意力和转换器，包括有关BERT和GPT的一些细节。因此，我将本文分为两部分。在本文中，我将介绍所有注意力块，在下一个故事中，我将深入探讨变压器网络架构。二、RNN背景知识提要RNN面临的挑战以及转换器模型如何帮助克

无水先生·2023-08-12 15:38

FlashAttention

FastandMemory-EfficientExactAttentionwithIO-Awareness二、主要方向新型注意力机制三、细化任务一种具有IO感知，且兼具快速、内存高效的新型注意力算法四、论文动机一般对transformer

be_humble·2023-08-12 14:21

大语言模型 GPT历史简介

GPT在自然语言处理NLP任务上取得了突破性的进展，扩散模型已经拥有了成为下一代图像生成模型的代表的潜力，它具有精度更高、可扩展性和并行性，无论是质量还是效率均有所提升，Transformer和扩散模型作为

shichaog·2023-08-12 11:55

大语言模型之一 Attention is all you need ---Transformer

当前大预言模型的核心结构是基于Transformer。大模型之所以效果超出预期，一个很重要的原因是模型大到一定程度之后会发生质变，模型的

shichaog·2023-08-12 11:22

ChatGpt发展历程

ChatGPT（英文全称：ChatGenerativePre-trainedTransformer，聊天生成预训练转换器）是人工智能研究实验室OpenAI（开放人工智能研究中心）在2022年发布的聊天机器人模型

耀南.·2023-08-12 09:37

【论文阅读】基于深度学习的时序预测——LSFT-Linear

系列文章链接论文一：2020Informer：长时序数据预测论文二：2021Autoformer：长序列数据预测论文三：2022FEDformer：长序列数据预测论文四：2022Non-StationaryTransformers

`AllureLove·2023-08-12 08:25

【论文阅读】基于深度学习的时序预测——Non-stationary Transformers

系列文章链接论文一：2020Informer：长时序数据预测论文二：2021Autoformer：长序列数据预测论文三：2022FEDformer：长序列数据预测论文四：2022Non-StationaryTransformers

`AllureLove·2023-08-12 08:55

【论文阅读】基于深度学习的时序预测——Pyraformer

系列文章链接论文一：2020Informer：长时序数据预测论文二：2021Autoformer：长序列数据预测论文三：2022FEDformer：长序列数据预测论文四：2022Non-StationaryTransformers

`AllureLove·2023-08-12 08:55

【论文阅读】基于深度学习的时序预测——Crossformer

系列文章链接论文一：2020Informer：长时序数据预测论文二：2021Autoformer：长序列数据预测论文三：2022FEDformer：长序列数据预测论文四：2022Non-StationaryTransformers

`AllureLove·2023-08-12 08:55

【论文阅读】基于深度学习的时序预测——FEDformer

系列文章链接论文一：2020Informer：长时序数据预测论文二：2021Autoformer：长序列数据预测论文三：2022FEDformer：长序列数据预测论文四：2022Non-StationaryTransformers

`AllureLove·2023-08-12 08:24

[Recommended material] self attention in Transformer, clearly explained

ThisisanarticlewhichIfoundusefulwhenattemptingtounderstandthemulti-head-attentionstructureinTransformer.Multi-headattentionmechanism

hc0112·2023-08-12 08:17

优雅的Pojo转换类封装，基于BeanUtils的链式封装（Transformer类）

为了偷懒干脆直接使用BeanUtils.copyProperties方法，可是每次结合lambda和链式时，总觉得直接使用BeanUtils中断链式不太舒服，因此封装了Transformer类。

CPoet·2023-08-12 05:09

论文阅读激光脉冲主动非视距成像+深度学习 || Learned Feature Embeddings for Non-Line-of-Sight Imaging and Recognition

论文原文：WenzhengChen,FangyinWei,KiriakosN.Kutulakos,SzymonRusinkiewicz,andFelixHeide.2020.LearnedFeatureEmbeddingsforNon-Line-of-SightImagingandRecognition.ACMTrans.Graph.39,6,Article230(December2020),18

R.X. NLOS·2023-08-12 05:06

论文阅读视频生成(vid2vid) || Few-shot Video-to-Video Synthesis

论文原文：Ting-ChunWang,Ming-YuLiu,AndrewTao,GuilinLiu,JanKautz,andBryanCatanzaro."Few-shotVideo-to-VideoSynthesis",inNeurIPS,2019.https://nvlabs.github.io/few-shot-vid2vid/main.pdf论文地址：https://nvlabs.gith

R.X. NLOS·2023-08-12 05:06

论文阅读 LCT设备用于透视成像||Three-dimensional imaging through scattering media based on confocal diffuse tomog

Lindell,D.B.,Wetzstein,G.Three-dimensionalimagingthroughscatteringmediabasedonconfocaldiffusetomography.NatCommun11,4517(2020).https://www.nature.com/articles/s41467-020-18346-3目录AbstractIntroduction实

R.X. NLOS·2023-08-12 05:35

论文阅读激光测距综述|| Laser ranging: a critical review of unusual techniques for distance measurement

原始论文：Markus-ChristianAmann,ThierryM.Bosch,MarcLescure,RistoA.Myllylae,MarcRioux,"Laserranging:acriticalreviewofunusualtechniquesfordistancemeasurement,"Opt.Eng.40(1)(1January2001)https://doi.org/10.11

R.X. NLOS·2023-08-12 05:35

论文阅读新的非视距场景(imaging behind occluders)|| ECCV 2020: Imaging Behind Occluders Using Two-Bounce Light

论文阅读Henley,C.,Maeda,T.,Swedish,T.,&Raskar,R.(2020,August).ImagingBehindOccludersUsingTwo-BounceLight.InEuropeanConferenceonComputerVision

R.X. NLOS·2023-08-12 05:05

Transformer（一）简述（注意力机制，NLP，CV通用模型）

目录1.Encoder1.1简单理解Attention1.2.什么是self-attention1.3.怎么计算self-attention1.4.multi-headed1.5.位置信息表达2.decorder（待补充）参考文献1.Encoder1.1简单理解Attention比方说，下图中的热度图中我们希望专注于小鸟，而不关注背景信息。那么如何关注文本和图像中的重点呢。具体而然比方说下面的文本

笑傲江湖2023·2023-08-11 22:21

【论文阅读】DEPCOMM：用于攻击调查的系统审核日志的图摘要（S&P-2022）

XuZ,FangP,LiuC,etal.Depcomm:Graphsummarizationonsystemauditlogsforattackinvestigation[C]//2022IEEESymposiumonSecurityandPrivacy(SP).IEEE,2022:540-557.1摘要提出了DEPCOMM，这是一种图摘要方法，通过将大图划分为以进程为中心的社区并为每个社区提供摘

C00per_·2023-08-11 20:14

【论文阅读】NoDoze：使用自动来源分类对抗威胁警报疲劳（NDSS-2019）

NODOZE:CombattingThreatAlertFatiguewithAutomatedProvenanceTriage伊利诺伊大学芝加哥分校HassanWU,GuoS,LiD,etal.Nodoze:Combattingthreatalertfatiguewithautomatedprovenancetriage[C]//networkanddistributedsystemssecur

C00per_·2023-08-11 20:43

推荐频道

transformer论文阅读

TransUNet：用于医学图像分割的Transformers强大编码器

FLatten Transformer 简化版Transformer

机器学习&&深度学习——从编码器-解码器架构到seq2seq（机器翻译）

PyTorch翻译官网教程-LANGUAGE MODELING WITH NN.TRANSFORMER AND TORCHTEXT

8.10论文阅读

论文阅读-Identifying Coordinated Accounts on Social Media through Hidden Influence and Group Behaviours

论文阅读：《Evidence for a fundamental property of steering》

论文阅读：《The Benefits and Tradeoffs for Varied High-Severity Injury Risk Thresholds for Advanced Autom》

论文阅读：《Modeling Road User Response Timing in Naturalistic Traffic Conflicts: A surprise-based framew》

Pytorch实现中文文本分类任务（Bert，ERNIE，TextCNN，TextRNN，FastText，TextRCNN，BiLSTM_Attention, DPCNN, Transformer）

DytanVO:Joint Refinement of Visual Odometry and Motion Segmentation in Dynamic Environments 论文阅读

论文阅读——对YOLO的全面回顾：从YOLOV1及以上

2023.8.12号论文阅读

DIP: NAS(Neural Architecture Search)论文阅读与总结（双份快乐）

Exploiting Proximity-Aware Tasks for Embodied Social Navigation 论文阅读

论文阅读：《Waymo Public Road Safety Performance Data》

（WWW2023）论文阅读-Detecting Social Media Manipulation in Low-ResourceLanguages

在华为昇腾Ascend910上复现swin_transformer

Towards Principled Methods for Training Generative Adversarial Networks论文阅读

基于Transformer的目标检测算法学习记录

基于DETR (DEtection TRansformer)开发构建MSTAR雷达影像目标检测系统

Win10 训练OWDETR（OW-DETR）

ModuleNotFoundError: No module named ‘MultiScaleDeformableAttention

勘探开发人工智能技术：机器学习(6)

Transformer讲解（一）- NLP变形金刚-详细知识介绍

transformer（”变形金刚“）

简单有趣的变形金刚网络（VIT） Vision Transformer（可以直接替换自己数据集）-直接放置自己的数据集就能直接跑（网络结构详解+详细注释代码+核心思想讲解）——pytorch实现

transformer--变形金刚

Attention Is All You Need（Transformer）

Transformer（“变形金刚”）

【变形金刚01】attention和transformer所有信息

FlashAttention

大语言模型 GPT历史简介

大语言模型之一 Attention is all you need ---Transformer

ChatGpt发展历程

【论文阅读】基于深度学习的时序预测——LSFT-Linear

【论文阅读】基于深度学习的时序预测——Non-stationary Transformers

【论文阅读】基于深度学习的时序预测——Pyraformer

【论文阅读】基于深度学习的时序预测——Crossformer

【论文阅读】基于深度学习的时序预测——FEDformer

[Recommended material] self attention in Transformer, clearly explained

优雅的Pojo转换类封装，基于BeanUtils的链式封装（Transformer类）

论文阅读 激光脉冲主动非视距成像+深度学习 || Learned Feature Embeddings for Non-Line-of-Sight Imaging and Recognition

论文阅读 视频生成(vid2vid) || Few-shot Video-to-Video Synthesis

论文阅读 LCT设备用于透视成像||Three-dimensional imaging through scattering media based on confocal diffuse tomog

论文阅读 激光测距综述|| Laser ranging: a critical review of unusual techniques for distance measurement

论文阅读 新的非视距场景(imaging behind occluders)|| ECCV 2020: Imaging Behind Occluders Using Two-Bounce Light

Transformer（一）简述（注意力机制，NLP，CV通用模型）

【论文阅读】DEPCOMM：用于攻击调查的系统审核日志的图摘要（S&P-2022）

【论文阅读】NoDoze：使用自动来源分类对抗威胁警报疲劳（NDSS-2019）

论文阅读激光脉冲主动非视距成像+深度学习 || Learned Feature Embeddings for Non-Line-of-Sight Imaging and Recognition

论文阅读视频生成(vid2vid) || Few-shot Video-to-Video Synthesis

论文阅读激光测距综述|| Laser ranging: a critical review of unusual techniques for distance measurement

论文阅读新的非视距场景(imaging behind occluders)|| ECCV 2020: Imaging Behind Occluders Using Two-Bounce Light