TRANSFORM

英伟达提出AdaViT：出于DeiT而又快于DeiT

©作者|小欣01简介自从VisionTransformer(ViT)被提出以来，Transformer已经成为一种流行的神经网络架构，并广泛的应用到计算机视觉领域之中，如图像分类、目标检测、图像生成和语义分割等任务
CV案例精选·2024-01-21 18:32

transfomer中正余弦位置编码的源码实现

简介Transformer模型抛弃了RNN、CNN作为序列学习的基本模型。循环神经网络本身就是一种顺序结构，天生就包含了词在序列中的位置信息。
zwhdldz·2024-01-21 17:03

CGAffineTransform

关于CGAffineTransform苹果的定义是这样的image.pngCGAffineTransform用于绘制2D图形的一个仿射变换矩阵用于做旋转、缩放、平移，一个仿射变换矩阵（是一个3*3的矩阵
阿正船长·2024-01-21 17:57

CSS 实现三角形的技巧

目录1、使用border绘制三角形2、使用linear-gradient绘制三角形3、使用conic-gradient绘制三角形4、transform:rotate配合overflow:hidden绘制三角形
宝子向前冲·2024-01-21 16:25

Transformer｜1.4 CNN遇到的问题与窘境

文章目录CNN遇到的问题与窘境transformer的优势CNN遇到的问题与窘境判断一个人是否为美人，既要看她各个五官，也要看她各个五官占的比例和协调。既要照顾好局部信息，也要照顾好全局信息。
晓源Galois·2024-01-21 13:49

【llm 使用llama 小案例】

huggingfacehttps://huggingface.co/meta-llamafromtransformersimportAutoTokenizer,LlamaForCausalLMPATH_TO_CONVERTED_WEIGHTS
放飞自我的Coder·2024-01-21 13:35

LLM之RAG实战（十六）| 使用Llama-2、PgVector和LlamaIndex构建LLM Rag Pipeline

本文，我们将深入研究使用transformer库、Llama-2模型、PgVector数据库和LlamaIndex库来构建RAGPipeline完整过程。一、什么是RAG（检索增强生成）
wshzd·2024-01-21 13:59

论文阅读【SWINBERT: End-to-End Transformers with Sparse Attention for Video Captioning】

SWINBERT:End-to-EndTransformerswithSparseAttentionforVideoCaptioning发表：CVPR2022idea：之前的方法都是使用其他任务上训练的特征提取器对
hei_hei_hei_·2024-01-21 12:38

Span-based Joint Entity and Relation Extraction with Transformer Pre-training

Instruction利用transform
自然语言处理CS·2024-01-21 12:37

论文阅读笔记AI篇 —— Transformer模型理论+实战 (四)

论文阅读笔记AI篇——Transformer模型理论+实战（四）一、理论1.1理论研读1.2什么是AIAgent?
键盘国治理专家·2024-01-21 12:07

Java安全 CC链1分析

Java安全之CC链1分析什么是CC链环境搭建jdk下载idea配置创建项目前置知识Transformer接口ConstantTransformer类invokerTransformer类ChainedTransformer
Elitewa·2024-01-21 11:13

python 画彩虹_python – 在matplotlib中,我如何绘制多色线,如彩虹

绘制平行线不是一件容易的事.使用简单的均匀偏移当然不会显示所需的结果.这显示在下面的左图中.这种简单的偏移可以在matplotlib中产生,如transformationtutorial所示.方法1更好的解决方案可能是使用右侧勾勒出的想法
Hu??·2024-01-21 10:10

可视化 | 【echarts】中国地图热力图

html和csshtml：整合可视化模板三css：样式body{background-color:#f5f2e9;}#test1{position:absolute;top:50%;left:50%;transform
啦啦右一·2024-01-21 10:54

关于最近的NLP模型Bert、Elmo、GPT（下--2）

这样的任务可以用在文本分类，语义分析等多种场景，比transformer，elmo，word2vector的效果要好。利用be
吴祺育的笔记·2024-01-21 09:35

Transformer技术深度剖析：AI语言处理的新纪元

1.Transformer全局概括Transformer是一种深度学习模型，最初由Vaswani等人在2017年的论文《AttentionIsAllYouNeed》中提出。
散一世繁华，颠半世琉璃·2024-01-21 09:02

[全连接神经网络]Transformer代餐，用MLP构建图像处理网络

一、MLP-Mixer使用纯MLP处理图像信息，其原理类似vit，将图片进行分块(patch)后展平(fallten)，然后输入到MLP中。理论上MLP等价于1x1卷积，但实际上1x1卷积仅能结合通道信息而不能结合空间信息。根据结合的信息不同分为channel-mixingMLPs和token-mixingMLPs。总体结构如下图，基本上可以视为以mlp实现的vit。二、RepMLP传统卷积仅能处
ViperL1·2024-01-21 09:55

softmax回实战

importtorchimporttorchvisionfromtorch.utilsimportdatafromtorchvisionimporttransformsfromd2limpo
良子c·2024-01-21 08:40

GPT属于AI，是LLM的一种实现

GPT（GenerativePre-trainedTransformer）作为一种创新的语言模型，既属于人工智能（AI）的一部分，也是大规模语言模型（LLM）的一种实现。
庄泽峰·2024-01-21 07:25

李沐深度学习-d2lzh_pytorch模块实现

importrandomimporttorchimportmatplotlib_inlinefrommatplotlibimportpyplotaspltimporttorchvisionimporttorchvision.transformsastransformsimporttorchvision.datasetsimportsysfromcollectionsi
大小猫吃猫饼干·2024-01-21 07:23

ChatGLM vs ChatGPT

所有的NLP大模型都是transformer结构1.Maskattention的策略不同2.训练任务目标不同国内大模型nb公司：百度、清华智谱一、主流大模型粉色：Encoder-only。
南宫凝忆·2024-01-21 06:17

视频异常检测论文笔记

看几篇中文的学习一下别人的思路基于全局-局部自注意力网络的视频异常检测方法主要贡献：网络结构注意力模块结构：融合自注意力和自编码器的视频异常检测主要贡献：网络结构Transformer模块动态图融合门控自注意力机制的生成对抗网络视频异常检测贡献网络结构门控注意力机制基于全局
何大春·2024-01-21 05:54

AI辅助编程工具—Github Copilot

一、概述Copilot是一种基于Transformer模型的神经网络，具有12B个参数。是GitHub和OpenAPI共同开发的编程辅助工具。
徒步远方999·2024-01-21 05:23

Unity之四元数计算

四元数相乘#region四元数相乘Quaternionq=Quaternion.AngleAxis(20,Vector3.up);this.transform.rotation*=q;#endregion
lqd520520·2024-01-21 05:09

hover使dom元素放大缩小

div{transition:all0.3s;}div:hover{transform:scale(1.08);//鼠标经过的时候改变}scale在C3动画中使dom盒子放大缩小
小曼很nice·2024-01-21 04:42

GBDT分类实战完全总结(二)

第二部分：sklearn分类实例实例一：Featuretransformationswithensemblesoftrees使用集成树的特征转换importnumpyasnpnp.random.seed
Lilian1002·2024-01-21 02:17

【Backbone】Vim（Vision Mamba）架构学习笔记

【代码复现】《挑战Transformer的新架构Mamba解析以及Pytorch复现》2引言（1
songyuc·2024-01-21 02:13

面试总结3

3.代码篇第三角色控制器publicclassPlayer:MonoBehaviour{publicTransform_cameraTrans;privateVector3_cameraOffset;voidAwake
澜.阿斯特.古莱齐.鲲·2024-01-20 21:01

GitHub Copilot与OpenAI ChatGPT：核心技术解析与应用场景对比

引言GitHubCopilot与OpenAIChatGPT是Transformer架构在编程和自然语言处理领域中的两项重要应用。
陈大狗Ayer·2024-01-20 20:25

ChatGPT与文心一言：一场跨平台语言模型的深度对比分析

一、模型架构与性能ChatGPT：ChatGPT基于Transform
陈大狗Ayer·2024-01-20 20:18

CSS 蜂巢动画

webkit-keyframeshoneycomb{0%,/*关键帧0%*/20%,/*关键帧20%*/80%,/*关键帧80%*/100%{/*关键帧100%*/opacity:0;/*设置透明度为0*/-webkit-transform
特创数字科技·2024-01-20 19:22

AgentFormer: Agent-Aware Transformers for Socio-Temporal Multi-Agent Forecasting

摘要预测多个智能体的准确未来轨迹对于自治系统至关重要，但由于智能体之间复杂的相互作用以及每个智能体未来行为的不确定性，这是一个挑战。预测多智能体轨迹需要对两个关键维度进行建模:(1)时间维度，我们对过去的智能体状态对未来状态的影响进行建模；(2)社会维度，我们对每个主体的状态如何影响他人进行建模。大多数现有方法分别对这两个维度建模，例如，首先使用时间模型独立地总结每个代理随时间变化的特征，然后用社
学号高并发·2024-01-20 19:46

各类注意力机制Attention——可变形注意力

通道注意力空间注意力时间注意力可变形注意力《Attentionisallyouneed》稀疏Attention残差Attention通道注意力空间注意力时间注意力实际上序列类任务也属于时间注意力，比如transformerdecoder
清风2022·2024-01-20 19:16

[Transformer]Lesion-Aware Transformers for Diabetic Retinopathy Grading

Lesion-AwareTransformersforDiabeticRetinopathyGradingAbstractSectionIIntroductionSectionIIRelatedWorkSectionIIILesion-AwareTransformerNetworkPart1OverviewPart2PixelRelationbasedEncoderPart3LesionFilte
黄小米吖·2024-01-20 19:15

Hardware-Aware Transformers (HAT)——Transformer模型的NAS策略

Paper地址:https://arxiv.org/abs/2005.14187Github:GitHub-mit-han-lab/hardware-aware-transformers:[ACL2020
Law-Yao·2024-01-20 19:15

HAT: Hardware-Aware Transformers for Efficient Natural Language Processing论文解读

paper:HAT:Hardware-AwareTransformersforEfficientNaturalLanguageProcessingcode:https://github.com/mit-han-lab
leo0308·2024-01-20 19:44

Hardware-Aware-Transformers开源项目笔记

文章目录Hardware-Aware-Transformers开源项目笔记开源项目背景知识nas进化算法进化算法代码示例开源项目EvolutionarySearch1生成延迟的数据集2训练延迟预测器3使延时约束运行搜索算法
清风2022·2024-01-20 19:14

Unity - transform使用

Test_03TransformTest控制物体位置和物体间的父子关系publicclassTransformTest:MonoBehaviour{voidStart(){//【获取位置】//世界坐标中物体的位置
※海绵※的笑~·2024-01-20 18:39

unity-shader笔记OLD

=null){smr=curMonster.transform.Fin
liwulin0506·2024-01-20 18:25

实现scan-to-map匹配，使用NDT的C++代码实现（2）

目录算法原理：性能和适用性：实现细节：C++实现：使用C++实现scan-to-map匹配时，选择正态分布变换（NormalDistributionsTransform，NDT）与迭代最近点（IterativeClosestPoint
稻壳特筑·2024-01-20 17:01

ETL基本概念

1，ETLETL，是英文Extract-Transform-Load的缩写，用来描述将数据从来源端经过抽取（extract）、转换（transform）、加载（load）至目的端的过程。
晓之以理的喵~~·2024-01-20 17:22

ETL概念

ETL(Extract-Transform-Load):用来描述将数据从来源端经过抽取（extract）、转换（transform）、加载（load）至目的端的过程。
大数据驱动·2024-01-20 17:19

数据处理中的ETL概念

ETL概念ETL是数据抽取（Extract）、清洗（Cleaning）、转换（Transform）、装载（Load）的过程。
GTW_Zeus·2024-01-20 17:19

ETL学习笔记之概念

ETL，Extraction-Transformation-Loading的缩写，即数据抽取（Extract）、转换（Transform）、装载（Load）的过程，它是构建数据仓库的重要环节。
「已注销」·2024-01-20 17:19

Unity 简单的虚拟摇杆

usingSystem.Collections;usingSystem.Collections.Generic;usingUnityEngine;publicclassRockingIcon:MonoBehaviour{publicTransformtouchPoint
yqian1000·2024-01-20 17:06

pytorch图片分类神经网络代码

#%%importtorchimporttorch.nnasnnimporttorch.optimasoptimfromtorchvisionimportdatasets,transformsfromtorch.utils.dataimportDataLoader
jiang_changsheng·2024-01-20 15:40

ChatGPT vs 文心一言（AI助手全面比较）

1.智能回复ChatGPT：ChatGPT是由OpenAI开发的基于GPT（GenerativePre-trainedTransformer）架构的语言
魔道不误砍柴功·2024-01-20 13:36

手写GPT实现小说生成(一)

做一个小说续写器，即只需要给出一些文本，让模型帮你续写，主要内容包含：模型编写训练适配小说的中文分词器将小说按固定大小拆分生成数据集拆分训练/测试集训练体验小说续写效果同时结合HuggingFace的transformers
愤怒的可乐·2024-01-20 10:55

关于MediaCode播放H265/hevc的总结

H.265/HEVC的编码架构大致上和H.264/AVC的架构相似，主要也包含，帧内预测(intraprediction)、帧间预测(interprediction)、转换(transform)、量化(
朝阳眯眼·2024-01-20 09:42

Big Model Basics1-2

thetriptobigmodels13年word2vec、14年rnn、15年attentionmechanism、17年transformer、18年elmo、bert不断增加他的参数，数据，显著提升各种任务的性能
ringthebell·2024-01-20 09:06

论文阅读笔记AI篇 —— Transformer模型理论+实战 (三)

论文阅读笔记AI篇——Transformer模型理论+实战（三）第三遍阅读（精读）3.1Attention和Self-Attention的区别？3.2Transformer是如何进行堆叠的？
键盘国治理专家·2024-01-20 08:24
上一页 19 20 21 22 23 24 25 26 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他