E325:ATTENTION

开源模型应用落地-qwen-7b-chat与vllm实现推理加速的正确姿势（一）

bloom数据爬取及清洗模型微调及评估搭建AI交互能力搭建IM交互能力搭建违禁词识别能力优化模型推理速度增强模型长期记忆能力二、术语介绍2.1.vLLMvLLM是一个开源的大模型推理加速框架，通过PagedAttention
charles_vaez·2024-01-19 12:30

torch.nn.MultiheadAttention的使用和参数解析

torch.nn.MultiheadAttention的使用和参数解析官方文档链接：MultiheadAttention—PyTorch1.12documentation多注意头原理MultiheadAttention
怎么开心怎么玩·2024-01-19 12:48

【Transformer系列】深入浅出理解Transformer网络模型（综合篇）

一、参考资料TheIllustratedTransformer图解Transformer（完整版）AttentionIsAllYouNeed:TheCoreIdeaoftheTransformertransformer
花花少年·2024-01-19 11:53

使用 attention实现转换日期并可视化attention_Pytorch实现

Pytorch使用attention实现转换日期并可视化attention实现环境：python3.6pytorch1.0importjsonfrommatplotlibimporttickerfromnumpyimport
瞎了吗·2024-01-19 10:29

Attend-and-Excite: Attention-Based Semantic Guidance for Text-to-Image Diffusion Models ——【代码复现】

本文是发表于SIGGRAPH（SpecialInterestGrouponComputerGraphicsandInteractiveTechniques）2023上的一篇文章论文网址：AttendandExcite(yuval-alaluf.github.io)一、引言这篇论文主要是利用注意力来加强图像生成中语义的引导，本博客主要用于记录在复现过程中遇到的一些问题。二、环境配置想要部署整个项目，
我是浮夸·2024-01-19 08:20

Attend-and-Excite: Attention-Based Semantic Guidance for Text-to-Image Diffusion Models——【论文笔记】

本文是发表于SIGGRAPH（SpecialInterestGrouponComputerGraphicsandInteractiveTechniques）上的一篇文字，被收录于ACMTrans.Graph。论文地址：参与和激励(yuval-alaluf.github.io)一、Intorduction这部分主要就是说，最新的基于文本的图像生成研究已经取得了前所未有的进展，能够生成多样化和创造性的
我是浮夸·2024-01-19 08:20

交叉注意力融合时域、频域特征的FFT + CNN -BiLSTM-CrossAttention轴承故障识别模型

前言1快速傅里叶变换FFT原理介绍第一步，导入部分数据第二步，故障信号可视化第三步，故障信号经过FFT可视化2轴承故障数据的预处理2.1导入数据2.2制作数据集和对应标签3交叉注意力机制3.1Crossattention
建模先锋·2024-01-19 08:03

基于麻雀优化算法SSA的CEEMDAN-BiLSTM-Attention的预测模型

Holt-Winters、SARIMA模型的分析与比较-CSDN博客风速预测（一）数据集介绍和预处理-CSDN博客风速预测（二）基于Pytorch的EMD-LSTM模型-CSDN博客风速预测（三）EMD-LSTM-Attention
建模先锋·2024-01-19 08:21

一区优化直接写：KOA-CNN-BiLSTM-Attention开普勒优化卷积、长短期记忆网络融合注意力机制的多变量回归预测程序！

同样的，我们利用该新鲜出炉的算法对我们的CNN-BiLSTM-Attention时序和空间特征结合-融合注意力机制的回归预测程序代码中的超参数进行优化，构成KOA-CNN-BiLSTM
预测及优化·2024-01-19 07:33

大语言模型系列-Transformer

文章目录前言一、Attention二、Transformer结构三、Transformer计算过程1.编码器（Encoder）1）Self-Attention层2）Multi-Head-Attention
学海一叶·2024-01-19 06:40

【flash-attention】Building wheel for flash-attn (pyproject.toml) did not run successfully

Buildingwheelforflash-attn(pyproject.toml)didnotrunsuccessfully解决方法[email protected]:Dao-AILab/flash-attention.gitcd
余俊晖·2024-01-19 03:56

TF2 build-in Keras在eager及非eager模式下callback训练过程中梯度的方式

ClassActivationMap/GradientAttentionMap分类/分割任务中可能会需要对训练过程中某些层的计算梯度进行操作，对于Keras来说我们可以通过使用Callback()实现返回梯度的目的
xtphysics·2024-01-19 02:48

Graph Attention-Based Forecasting

Transformer利用self-attention机制将输入中的每个单词用其上下文的加权来表示，而GAT则是利用self-attention机制将每个节点用其邻居的加权来表示。
生于忧患_死于安乐·2024-01-19 02:42

七日正念冥想记

引用美国教授JonKabat-Zinn的话："Mindfulnessmeanspayingattentioninaparticularway;Onpurpose,inthepresentmoment,andnon-judgmentally
Sober1337·2024-01-19 02:25

【保姆级教程|YOLOv8添加注意力机制】【2】在C2f结构中添加ShuffleAttention注意力机制并训练

《博主简介》小伙伴们好，我是阿旭。专注于人工智能、AIGC、python、计算机视觉相关分享研究。✌更多学习资源，可关注公-仲-hao:【阿旭算法与机器学习】，共同学习交流~感谢小伙伴们点赞、关注！《------往期经典推荐------》一、AI应用软件开发实战专栏【链接】项目名称项目名称1.【人脸识别与管理系统开发】2.【车牌识别与自动收费管理系统开发】3.【手势识别系统开发】4.【人脸面部活体
阿_旭·2024-01-19 01:23

机器学习之LARNN（Linear Attention Recurrent Neural Network）

 LinearAttentionRecurrentNeuralNetwork（LARNN）由GuillaumeChevalier结合前人的经验于2018年八月发表的论文《LARNN:LinearAttentionRecurrentNeuralNetwork
海上的程序猿·2024-01-18 22:24

基于深度学习的时间序列算法总结

常用的深度学习模型包括循环神经网络（RNN）、长短时记忆网络（LSTM）、门控循环单元（GRU）、卷积神经网络（CNN）、注意力机制（Attention）和混合模型（Mix）等，与机器学习需要经过复杂的特征工程相比
流浪的诗人，·2024-01-18 21:36

分类预测 | Matlab实现ZOA-CNN-LSTM-Attention斑马优化卷积长短期记忆神经网络注意力机制的数据分类预测【24年新算法】

分类预测|Matlab实现ZOA-CNN-LSTM-Attention斑马优化卷积长短期记忆神经网络注意力机制的数据分类预测【24年新算法】目录分类预测|Matlab实现ZOA-CNN-LSTM-Attention
机器学习之心·2024-01-18 17:42

用通俗易懂的方式讲解：灵魂 20 问帮你彻底搞定Transformer

（注意和第一个问题的区别）Transformer计算attention的时候为何选择点乘而不是加法？两者计算复杂度和效果上有什么区别？为什么在进行softmax之前需要对attent
深度学习算法与自然语言处理·2024-01-18 15:55

Informer简单理解

一、输入层Encoder改进：1、ProbAttention算法计算权值：原Transformer中的注意力机制时间复杂度N^2，而Informer作为实时性要求高的长时间序列预测算法必然需要提高效率，
姓蔡小朋友·2024-01-18 15:48

多模态Multimodal医学图像相关论文

Survey[arXiv2022]VisualAttentionMethodsinDeepLearning:AnIn-DepthSurvey[pdf][arXiv2022]Vision+X:ASurveyonMultimodalLearningintheLightofData
哥廷根数学学派·2024-01-18 14:29

ATTENTION SWIN U-NET: CROSS-CONTEXTUAL ATTENTION MECHANISM FOR SKIN LESION SEGMENTATION

摘要关键点：1.现有限制：U-Net架构中卷积运算的位置限制了其捕捉长距离依赖性的性能2.解决限制：提出了一种基于Transformer的U-Net架构，用SwinTransformer模块取代CNN块来捕获局部和全局表示3.网络模型：Att-SwinU-Net，一种基于注意力的SwinU-Net扩展4.关键点：设计跳跃连接路径来提高网络的特征重用性5.改进：在跳跃连接路径中使用的经典连接操作中加
湘溶溶·2024-01-18 10:12

注意力机制

self-attention是什么？是自己注意自己吗?QKV又是什么？为什么它们要叫query、key、value，它们有啥关系？
湘溶溶·2024-01-18 10:09

时间序列预测 — BiLSTM-Attention实现单变量负荷预测(Tensorflow)

专栏链接：https://blog.csdn.net/qq_41921826/category_12495091.html专栏内容所有文章提供源代码、数据集、效果可视化文章多次上领域内容榜、每日必看榜单、全站综合热榜时间序列预测存在的问题现有的大量方法没有真正的预测未来值，只是用历史数据做验证利用时间序列分解算法存在信息泄露的问题：有人用emd+lstm对时间序列进行预测，是否存在原理上的问题?-
几度春风里·2024-01-18 09:47

YoloV8改进策略：Agent Attention|Softmax与线性注意力的融合研究|有效涨点|代码注释与改进|全网首发（唯一）

本文提出了一种新型的注意力机制——AgentAttention，旨在平衡计算效率和表示能力。
静静AI学堂·2024-01-18 06:32

为什么在进行softmax之前需要对attention进行scaled（为什么除以 d_k的平方根）

解释的好：Self-attention中dot-product操作为什么要被缩放-知乎标准正太分布（0均值，1方差的高斯分布）解释1：解释2：这样做是因为对于较大的深度值，点积的大小会增大，从而推动softmax
ytusdc·2024-01-18 04:52

transformer详解

transformer框架基本结构注意力机制注意力评分函数(scoringfunction)自注意力机制（self-attention）maskedself-attention多头注意力（multi-headattention
bulingg·2024-01-18 04:50

03-04 为什么认为自己丑会对你不利

image.pngFromthistedspeech,Irealizedthatifidawalotofattentiontomylook,itwouldinfulencemydailylife.Andalsonotconfidenttoourlookshavealotofdrawbacks
向阳生长娜姐姐·2024-01-18 00:18

transformer attention注意力理解 QKV含义深度探索

此处为b站学习视频记录https://www.bilibili.com/video/BV1dt4y1J7ov/?share_source=copy_web&vd_source=c675206b339487e9755eec554de241a9现在给出一个人的腰围为57，想要预测他的体重，自然的，因为体重57在56和58之间，所以我们推断其体重在43～48之间但是我们还需要定量计算体重预测值，怎么办呢
sdu_study·2024-01-17 14:18

机器学习算法实战案例：Informer 源码详解与代码实战

1.2mian_informer.py文件1.3模型训练1.4模型测试1.5模型预测2Informer模型2.1process_one_batch2.2Informer函数2.3DataEmbedding函数2.4ProbAttention
Python算法实战·2024-01-17 11:28

wex的Scalers Talk第四轮新概念朗读持续力训练Day157 20190313

练习材料：L31-1：AlovableeccentricTrueeccentricsneverdeliberatelysetouttodrawattentiontothemselves.Theydisregardsocialconventionswithoutbeingconsciousthattheyaredoinganythingextraordinary.Thisinvariablywins
秦苌·2024-01-17 10:04

十分钟读完 Transformer 经典论文- Attention is all you need

打破传统束缚！全新神经网络架构Transformer，用自注意力机制颠覆序列转换模型引言：自注意力机制的崛起在过去的几年中，序列转换模型的领域一直由基于复杂的循环神经网络（RNN）或卷积神经网络（CNN）的架构所主导。这些模型通常包含一个编码器（encoder）和一个解码器（decoder），并且最优秀的模型还会通过注意力机制将编码器和解码器连接起来。然而，这种架构的一个主要缺点是它们的计算是按照
夕小瑶·2024-01-17 10:14

Transformer详解（附代码实现及翻译任务实现）

一：了解背景和动机阅读Transformer论文：阅读原始的Transformer论文：“AttentionisAllYouNeed”，由Vaswani等人于2017年提出，是Transformer模型的开创性工作
机智的小神仙儿·2024-01-17 07:07

回归预测 | Matlab实现SSA-CNN-LSTM-Attention麻雀优化卷积长短期记忆神经网络注意力机制多变量回归预测（SE注意力机制）

回归预测|Matlab实现SSA-CNN-LSTM-Attention麻雀优化卷积长短期记忆神经网络注意力机制多变量回归预测（SE注意力机制）目录回归预测|Matlab实现SSA-CNN-LSTM-Attention
机器学习之心·2024-01-17 05:21

【书生·浦语】大模型实战营——LMDeploy 大模型量化部署实战

另外大模型是自回归生成，需要缓存Attention的k/v。LMDeploy简介推理性能核心功能-量化量化可以大大降低显存，同时提升推理速度。
不想动脑筋的亮亮·2024-01-17 04:16

因果推断推荐系统工具箱 - XPA（二）

文章名称【www-2021】【google】Cross-PositionalAttentionforDebiasingClicks核心要点上一节讲述了作者如何对具有位置偏差的数据进行建模，以及如何定义elevanceexaminationfactorization
processor4d·2024-01-17 04:21

Transformer模型

前置知识：Attention机制结构Transformer主要包括四部分，其中2,3两部分是Transformer的重点，Transformer是一个基于Encoder-Decoder框架的模型原理输入自然语言序列到编码器
惊雲浅谈天·2024-01-17 03:54

Self-Attention

前置知识：RNN，Attention机制在一般任务的Encoder-Decoder框架中，输入Source和输出Target内容是不一样的，比如对于英-中机器翻译来说，Source是英文句子，Target
惊雲浅谈天·2024-01-17 03:23

泽平 的ScalersTalk第六轮新概念朗读持续力训练Day 159 20210829

AlovableeccentricDickielefttheshopwithoutawordandreturnedcarryingalargeclothbag.Asitwasextremelyheavy,hedumpeditonthecounter.Theassistantaskedhimtoleave,butDickiepaidnoattentiontohimandrequ
郑泽平·2024-01-17 02:15

transfomer中Multi-Head Attention的源码实现

简介Multi-HeadAttention是一种注意力机制,是transfomer的核心机制,就是图中黄色框内的部分.Multi-HeadAttention的原理是通过将模型分为多个头，形成多个子空间，
zwhdldz·2024-01-17 00:44

论文阅读笔记AI篇 —— Transformer模型理论+实战 (二)

模型理论+实战（二）第二遍阅读（通读）2.1Background2.2ModelArchitecture2.2.1EncoderandDecoderStacks2.2.2ScaledDot-ProductAttention2.2.3Multi-HeadAttention2.3WhySelf-Attention2.4Training2.5Results2
键盘国治理专家·2024-01-16 17:17

论文阅读笔记AI篇 —— Transformer模型理论+实战 (一)

资源地址Attentionisallyouneed.pdf(0积分)-CSDN第一遍阅读（Abstract+Introduction+Conclusion）Abstract中强调Transformer摒弃了循环和卷积网络结构
键盘国治理专家·2024-01-16 17:40

【AIGC入门一】Transformers 模型结构详解及代码解析

目录Transformers——AttentionisallYouNeed背景介绍模型结构位置编码代码实现：AttentionScaledDot-productAttentionMulti-headAttentionPosition-WiseFeed
不想动脑筋的亮亮·2024-01-16 15:59

可解释推荐系统工具箱 - VECF（一）

【Tsinghua/RutgersUniversity】PersonalizedFashionRecommendationwithVisualExplanationsbasedonMultimodalAttentionNetwork
processor4d·2024-01-16 11:27

【论文笔记】Effect of Attention Mechanism in Deep Learning-Based Remote Sensing Image Processing：A S...

注意机制在基于深度学习的遥感图像处理中的作用：系统文献综述综述：概述了已开发的注意力机制以及如何将它们与不同的深度学习神经网络架构集成。此外，它旨在研究注意力机制对基于深度学习的RS图像处理的影响。分析了相应的基于注意力机制的深度学习（At-DL）方法的进展。进行了系统的文献回顾，以确定出版物、出版商、改进的DL方法、使用的数据类型、使用的注意力类型、使用At-DL方法实现的总体准确度的趋势，并提
吃核桃用手夹·2024-01-16 09:54

图神经网络｜图注意网络Graph Attention Network

图注意网络GraphAttentionNetworkLeakyReLU有利于压低负数对结局的影响。
晓源Galois·2024-01-16 04:12

多维时序 | Matlab实现GRO-CNN-LSTM-Attention淘金算法优化卷积神经网络-长短期记忆网络结合注意力机制多变量时间序列预测

多维时序|Matlab实现GRO-CNN-LSTM-Attention淘金算法优化卷积神经网络-长短期记忆网络结合注意力机制多变量时间序列预测目录多维时序|Matlab实现GRO-CNN-LSTM-Attention
机器学习之心·2024-01-16 02:10

Mindspore 公开课 - gpt2

GPT-2MaskedSelf-AttentionGPT-2Self-attention:1-Creatingqueries,keys,andvaluesbatch_size=1seq_len=10embed_dim
coyote_xujie·2024-01-15 22:08

大模型听课笔记——书生·浦语（5）

常常需要对模型进行优化，例如模型压缩和硬件加速产品形态：云端、变韵计算端、移动端计算设备：CPU、GPU、NPU、TPU等大模型的特点：内存开销巨大庞大的参数量采用自回归生成token,需要缓存Attentiondek
亲爱的阿基米德^·2024-01-15 21:13

self-attention机制详解

目前，对于我们的network，给定的input大都是一个向量：但是对于更复杂的情况，我们的input是asetofvec:举例：nlp中的句子，对于每个word都是一个wordembedding：图学习中每个节点有一个embedding：那我们的output都是什么样子呢？第一种：输入与输出数量相同，每个embedding都有一个label（sequencelabeling）：第二种：整个输入有
图学习的小张·2024-01-15 21:10
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他