TRANSFORMER

YOLOv5改进 | SPPF | 将RT-DETR模型AIFI模块和Conv模块结合替换SPPF（全网独家改进）

RT-DETR号称是打败YOLO的检测模型，其作为一种基于Transformer的检测方法，相较于传统的基于卷积的检测方法，提供了更为全面和深入的特征理解，将RT-DETR中的一些先进模块融入到YOLOv5
Snu77·2023-12-18 13:08

Swin-Transformer 在图像识别中的应用

1.卷积神经网络简单介绍图像识别任务主要利用神经网络对图像进行特征提取，最后通过全连接层将特征和分类个数进行映射。传统的网络是利用线性网络对图像进行分类，然而图像信息是二维的，一般来说，图像像素点和周围邻域像素点相关。而线性分类网络将图像强行展平成一维，不仅仅忽略了图像的空间信息，而全连接层会大大增加网络的参数为了更好把握图像像素的空间信息，提出了CNN卷积神经网络，利用卷积核(滤波器)对图像进行
听风吹等浪起·2023-12-18 07:23

图像识别完整项目之Swin-Transformer，从获取关键词数据集到训练的完整过程

0.前言图像分类的大部分经典神经网络已经全部介绍完，并且已经作了测试代码已经全部上传到资源，根据文章名或者关键词搜索即可LeNet：pytorch搭建LeNet网络对CIFAR-10图片分类AlexNet：pytorch搭建AlexNet对花进行分类Vgg：pytorch搭建VGG网络GoogLeNet：pytorch搭建GoogLeNetResNet：ResNet训练CIFAR10数据集，并做图
听风吹等浪起·2023-12-18 07:17

微软提出Control-GPT：用GPT-4实现可控文本到图像生成！

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达点击进入—>【目标检测和Transformer】交流群转载自：机器之心|编辑：小舟、梓文扩散模型虽好，但如何保证生成的图像准确高质量？
Amusi（CVer）·2023-12-18 02:04

文本处理工具doctran（集成LLM和NLP库）

该工具也可以在LangChain框架document_transformers模块内使用。（本质上是对LLM和NLP库的封装）G
hj_caas·2023-12-17 23:04

python unpack原理_Python transformers.Unpack方法代码示例

本文整理汇总了Python中fuel.transformers.Unpack方法的典型用法代码示例。如果您正苦于以下问题：Pythontransformers.Unpack方法的具体用法？
摄影师吴亚轩·2023-12-17 21:36

Windows11安装python模块transformers报错Long Path处理

Windows11安装python模块transformers报错，报错信息如下ERROR:CouldnotinstallpackagesduetoanOSError:[Errno2]Nosuchfileordirectory
!chen·2023-12-17 21:34

深入探讨Chat GPT，难道只有这2点用途？

作为一种先进的人工智能技术，ChatGPT（GenerativePre-trainedTransformer）是近年来在自然语言处理领域中备受关注的重要技术之一。
程序哥聊面试·2023-12-17 20:19

TransXNet：使用双动态令牌混合器学习全局和局部动态以实现视觉识别

文章目录摘要1、简介2、相关研究3、方法4、实验5、局限性6、结论摘要https://arxiv.org/pdf/2310.19380.pdf最近的研究将卷积与transformer相结合，以引入归纳偏置并提高泛化性能
AI浩·2023-12-17 18:45

YoloV5改进策略：双动态令牌混合器（D-Mixer）的TransXNet，实现YoloV5的有效涨点

使用D-Mixer作为基本构建块设计了TransXNet，这是一种新型的混合CNN-Transformer视觉主干网络，可提供引人注目的性能。在ImageNet-1K图像分类任务中，T
静静AI学堂·2023-12-17 16:33

Re57：读论文 Mention Memory: incorporating textual knowledge into Transformers through entity mention at

诸神缄默不语-个人CSDN博文目录诸神缄默不语的论文阅读笔记和分类论文名称：MentionMemory:incorporatingtextualknowledgeintoTransformersthroughentitymentionattention
诸神缄默不语·2023-12-17 15:41

【深度学习】注意力机制（六）

注意力机制（二）【深度学习】注意力机制（三）【深度学习】注意力机制（四）【深度学习】注意力机制（五）目录一、MobileVITv1二、MobileVITv2三、DAT（DeformableAttentionTransformer
justld·2023-12-17 14:17

ChatGPT原理和用法、GPT3.5和GPT4的区别，一次给你讲明白

ChatGPT全称为“ChatGenerativePre-trainedTransformer”，是一个生成式人工智能大型
无际Ai·2023-12-17 09:53

Dialogue Transformers：如何解决医学大模型【偏离主诉和没抓住核心】，建立抗干扰的能力，使得发现用户问题会一追到底？

DialogueTransformers：实现抗干扰能力的对话模型抗干扰能力基于Transformer的实现技术优化目标抗干扰能力前置知识：从【注意力机制】开始，到【Transformer】的零基础【大模型
Debroon·2023-12-17 07:26

swin transformer+FPN（内含代码，可用于图像分类）

以下是一个基础版本的SwinTransformer（Swin-B）加上特征金字塔网络（FPN）实现渐进融合的简化代码。请注意，这是一个简化版本，可能需要根据具体需求进行调整和优化。
赢勾喜欢海·2023-12-17 06:23

小狐狸GPT付费2.4.9弹窗版学习源码介绍

小狐狸GPT付费2.4.9弹窗版学习源码是一套基于GPT（GenerativePre-trainedTransformer）模型的开源代码库，旨在帮助开发者快速构建和训练自己的语言模型。
骆驼&沙漠·2023-12-17 05:53

下午好~ 我的论文【遥感】（第一期）

泡杯茶，读篇论文吧首先说明，时间有限没有那么精力一一回复了，对不起各位了TAT文章目录遥感Bi-Dilation-formerCNN-GNN-FusionMulti-hierarchicalcrosstransformerCoupledCNNs
likeGhee·2023-12-17 03:00

RLlib七：github上的代码示例

AttentionNet保留先前观察的状态，并使用Transformer来学习成功重复先前观察的策略。如果没有注意力，强化学习代理只能“看到”最后一个观察结果，而不是
星行夜空·2023-12-17 02:01

第31期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。
云起无垠·2023-12-17 02:17

大语言模型：开启自然语言处理新纪元

导言大语言模型，如GPT-3（GenerativePre-trainedTransformer3），标志着自然语言处理领域取得的一项重大突破。
鳗小鱼·2023-12-17 02:39

[论文精读] 使用扩散模型生成真实感视频 - 【李飞飞团队新作，文生视频 新基准】

论文导读:论文背景:2023年12月11日，AI科学家李飞飞团队与谷歌合作，推出了视频生成模型W.A.L.T（WindowAttentionLatentTransformer）——一个在共享潜在空间中训练图像和视频生成的
Garry1248·2023-12-17 01:52

论文阅读——GroupViT

GroupViT:SemanticSegmentationEmergesfromTextSupervision一、思想把Transformer层分为多个组阶段groupingstages，每个stage
じんじん·2023-12-17 01:07

【Datawhale 大模型基础】第六章 大模型的模型架构（中文版）

6.1典型架构Transformer架构已成为创建各种LLMs的主导框架，使得语言模型的参数规模能够扩展到数百亿甚
皓哥好运来·2023-12-16 23:51

RT-DETR改进策略：双动态令牌混合器（D-Mixer）的TransXNet，实现RT-DETR的有效涨点

使用D-Mixer作为基本构建块设计了TransXNet，这是一种新型的混合CNN-Transformer视觉主干网络，可提供引人注目的性能。在ImageNet-1K图像分类任务中，T
静静AI学堂·2023-12-16 21:33

transformer 位置编码

目录通俗易懂的：从上面效果图可以看出，这个三角函数式位置编码满足以下四个特点：transformer位置编码transformer位置编码通俗解释绝对位置和相对位置通俗易懂的：以下内容转自：Transformer
AI视觉网奇·2023-12-16 20:29

Transformer的了解

我们从几个点来了解一下Transformer，分别是：1，什么是Transformer？，2，Transformer他的定义是什么？3，为什么要使用Transformer？
.cheng.·2023-12-16 20:01

揭开机器学习转换器架构的神秘面纱

自2017年推出以来，转换器（Transformers）已成为机器学习领域的一支突出力量，彻底改变了专业翻译和自动完成服务的能力。
c++服务器开发·2023-12-16 19:06

Pytorch-Transformer轴承故障一维信号分类(三)

目录前言1数据集制作与加载1.1导入数据第一步，导入十分类数据第二步，读取MAT文件驱动端数据第三步，制作数据集第四步，制作训练集和标签1.2数据加载，训练数据、测试数据分组，数据分batch2Transformer
建模先锋·2023-12-16 16:01

人工智能文本分类

在本文中，我们全面探讨了文本分类技术的发展历程、基本原理、关键技术、深度学习的应用，以及从RNN到Transformer的技术演进。
!chen·2023-12-16 15:48

如何理解《注意力机制真的懂得“集中注意力”吗？》

但是，对于一般的Attention机制来说，Attention矩阵可能是非归一化的，比如《FLASH：可能是近来最有意思的高效Transformer设计》介绍的GAU模块，以及《相
路人与大师·2023-12-16 14:14

风速预测（四）基于Pytorch的EMD-Transformer模型

目录前言1风速数据EMD分解与可视化1.1导入数据1.2EMD分解2数据集制作与预处理2.1先划分数据集，按照8：2划分训练集和测试集2.2设置滑动窗口大小为7，制作数据集3基于Pytorch的EMD-Transformer
建模先锋·2023-12-16 11:48

word2vec，BERT，GPT相关概念

然而，OpenAI使用的是预训练的Transformer模型（如GPT和BERT），这些模型不仅可以为单个词元生成嵌入，还可以为整个句子生成嵌入。
hadiii·2023-12-16 11:13

Python轴承故障诊断 (六)基于EMD-Transformer的故障分类

目录前言1经验模态分解EMD的Python示例2轴承故障数据的预处理2.1导入数据2.2制作数据集和对应标签2.3故障数据的EMD分解可视化2.4故障数据的EMD分解预处理3基于EMD-Transformer
建模先锋·2023-12-16 11:12

CNN、Transformer、MLPs谁更鲁棒

query=convolution+transformer+robust&searchtype=all&source=headerRobustART:BenchmarkingRobustnessonArchitectureDesginandTraningTecniquesarXiv
Valar_Morghulis·2023-12-16 10:37

一些意外的bug

__file__若import的包名与pip安装的包的路径不一致，则copy过去具体：1、keyllamaerrortransformers问题，需安装4.282、deepspeed没有adam_cuda
一条水里的鱼·2023-12-16 09:32

论文阅读——《Retinexformer: One-stage Retinex-based Transformer for Low-light Image Enhancement》

1.2Transformer算法。
Vaeeeeeee·2023-12-16 09:48

注意力机制，Transformer相关详解

Transfomer论文原文李沐：Transformer论文逐段精读【论文精读】注意力机制，Transformer注意力机制注意力是一种稀缺资源。在注意力机制的背景下，自主性提醒被称为查询（qu
hadiii·2023-12-16 08:35

5、Grounded Segement Anything

GroundingDINOgitclonehttps://github.com/IDEA-Research/GroundingDINO.gitcdGroundingDINOpipinstall-e.pipinstalldiffuserstransformersacceleratescipysafetensors
C--G·2023-12-16 07:08

lora微调

importosos.environ["CUDA_VISIBLE_DEVICES"]="0"importtorchimporttorch.nnasnnimportbitsandbytesasbnbimporttransformersfromtransformersimportAutoTokenizer
SmartDemo·2023-12-16 06:47

GPT-4：背景、技术特点、发展、应用与前景

其中，GPT-4（GenerativePre-trainedTransformer4）作为OpenAI公司推出的最新一代大型语言模型，凭借其卓越的性能和广泛的应用场景，引起了全球范围内的关注。
蒙奇·D·路飞-·2023-12-16 03:15

BERT学习笔记

BERT全称为BidirectionalEncoderRepresentationsfromTransformers,是Google在2018年提出的一种新的语言表示方法。
哈哈不爱学习·2023-12-15 22:11

深度学习论文阅读：Generative Pre-Training(GPT)

GPTAbstract1Introduction6Conclusion2RelatedWork3Framework3.1Unsupervisedpre-trainingGPT和BERT的区别3.2Supervisedfine-tuning3.3Task-specificinputtransformations4Experiments总结参考GPT核心点：预训练一个transformerde
阿正的梦工坊·2023-12-15 22:06

BERT大模型：英语NLP的里程碑

BERT的诞生与重要性BERT（BidirectionalEncoderRepresentationsfromTransformers）大模型标志着自然语言处理（NLP）领域的一个重要转折点。
努力犯错·2023-12-15 22:03

MAMBA介绍：一种新的可能超过Transformer的AI架构

有人说，“理解了人类的语言，就理解了世界”。一直以来，人工智能领域的学者和工程师们都试图让机器学习人类的语言和说话方式，但进展始终不大。因为人类的语言太复杂，太多样，而组成它背后的机制，往往又充满着不可名状的规律。过去人们在自然语言处理中多采用RNN循环神经网络，它十分类似于人类逻辑上对语言的理解，即：强调上下文顺序、前后文逻辑关系。但是这种顺序方式让RNN无法实现并行计算，也就是说，它的速度十分
weixin_4528312·2023-12-15 22:54

自然语言处理阅读第一弹

Transformer架构encoder和decoder区别EmbeddingsfromLanguageModel(ELMO)一种基于上下文的预训练模型,用于生成具有语境的词向量。
u013308709·2023-12-15 22:23

YoloV8改进策略：双动态令牌混合器（D-Mixer）的TransXNet，实现YoloV8的有效涨点

使用D-Mixer作为基本构建块设计了TransXNet，这是一种新型的混合CNN-Transformer视觉主干网络，可提供引人注目的性能。在ImageNet-1K图像分类任务中，T
静静AI学堂·2023-12-15 20:57

[Longformer]论文实现：Longformer: The Long-Document Transformer

自回归语言模型注意力模式训练结果2.4预训练和微调注意力模式位置编码预训练结果2.5Longformer-Encoder-Decoder(LED)三、整体总结论文：Longformer:TheLong-DocumentTransformer
Bigcrab__·2023-12-15 20:05

机器学习入门

它开源了许多机器学习需要的基础组件如：Transformers,Tokenizers等。
liuzhenghua66·2023-12-15 20:36

为什么说人人都需要掌握ChatGPT技术和应用？

其中预训练架构建立在Transformer神经网络基础上，构建出一个BaseModel，微调架构加入了10万级别的人工样本，微调BaseMo
musicml·2023-12-15 16:14

从原理到实现教你搞定大模型在线推理架构

▼最近直播超级多，预约保你有收获今晚直播：《大模型在线推理架构设计与实践》—1—大模型在线推理工程架构设计LLM大模型整体架构由离线和在线两部分构成（架构如下图所示），离线部分主要是基于Transformer
musicml·2023-12-15 16:03
上一页 22 23 24 25 26 27 28 29 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他