transformer论文阅读

《论文阅读》常识感知的提示用于可控的同情对话生成 2023 AAAI

《论文阅读》常识感知的提示用于可控的同情对话生成前言简介基础知识即插即用（PlugandPlay）FutureDiscriminators（FUDGE）动机数据集方法前言你是否也对于理解论文存在困惑？
365JHWZGo·2023-09-14 18:53

假性记忆，书写机器

GPT-3，即GenerativePre-trainedTransformer3（生成型预训练变换
ConanXin·2023-09-14 18:22

Transformers-Bert家族系列算法汇总

Transformers提供API和工具，可轻松下载和训练最先进的预训练模型。使用预训练模型可以降低计算成本、碳足迹，并节省从头开始训练模型所需的时间和资源。
源代码杀手·2023-09-14 16:59

transformer大语言模型(LLM)部署方案整理

框架名称出品方开源地址FasterTranaformer英伟达FasterTransformergithu
yuanlulu·2023-09-14 10:52

【Spatial-Temporal Action Localization（二）】论文阅读2017年

文章目录1.ActionVLAD:Learningspatio-temporalaggregationforactionclassification[code](https://github.com/rohitgirdhar/ActionVLAD/)[](https://github.com/rohitgirdhar/ActionVLAD/)摘要和结论引言：针对痛点和贡献相关工作模型框架思考不足之
三木今天学习了嘛·2023-09-14 09:06

论文阅读：BotFinder: A Novel Framework for Social Bots Detection in Online Social Networks Based

目录摘要1Introduction3OurProposedMethod:BotFinder3.1Overview3.2Step1:FeatureEngineering3.3Step2:SimilarityCalculation3.4Step3:communitydetection4Experiment4.2Dataprocessing论文链接：https://assets.researchsqua
无脑敲代码，bug漫天飞·2023-09-14 09:05

[论文阅读]Coordinate Attention for Efficient Mobile Network Design

摘要  最近关于移动网络设计的研究已经证明了通道注意力(例如，theSqueeze-and-Excitationattention)对于提高模型的性能有显著的效果，但它们通常忽略了位置信息，而位置信息对于生成空间选择性注意图非常重要。在本文中，我们提出了一种新的移动网络注意力机制，将位置信息嵌入到通道注意力中，我们称之为“坐标注意力”。与通过二维全局池化将特征张量转换为单个特征向量的通道注意力不同
不是吧这都有重名·2023-09-14 09:05

论文阅读 - Outlier detection in social networks leveraging community structure

目录摘要1.Introduction2.Relatedworks3.Preliminaries3.1.模块化度量3.2.Classesofoutliers3.2.1.点异常3.2.2.Contextualanomalies3.2.3.Collectiveanomalies3.3.Problemdefinition3.4.Outliersscore4.Methodology4.1.Proposeda
无脑敲代码，bug漫天飞·2023-09-14 09:31

Attention is all you need 论文笔记

该论文引入Transformer，主要核心是自注意力机制，自注意力（Self-Attention）机制是一种可以考虑输入序列中所有位置信息的机制。
顺顺不吃竹笋·2023-09-14 09:08

Transformer系列 _1 数据处理 笔记2021-06-29

数据处理课程来源：YouTubewangshusenghttps://www.youtube.com/watch?v=NWcShtqr8kc&t=0sPPT：https://github.com/wangshusen/DeepLearning年龄是数值特征性别是二分类特征国籍是分类特征对国籍进行one-hotencoding，因为国籍之间是不能表示大小的。注意将0保留当作“未知”类别，比如一些缺失
qq_38038430·2023-09-14 08:55

关于Transformer和SiamFC的一些笔记和学习链接

2021.10.19王树森Github网址：https://github.com/wangshusen/DRL2021.10.15知乎上三篇文章（关于目标跟踪transformer的），已经看了一篇了，
Cl2212·2023-09-14 08:23

Textbooks Are All You Need II: phi-1.5 technical report

教科书是你所需要的一切：phi-1.5技术报告摘要1引言2技术规范3基准结果4解决毒性和偏见5我们的模型的使用6讨论摘要我们继续调查TinyStories发起的基于Transformer的较小语言模型的威力
UnknownBody·2023-09-14 07:19

【深度学习】大模型卷到机器人上了

就像Transformer出现后，以此为基础的大语言模型ChatGPT，视觉基础模型SegmentAnything相继横空出世，并展现出强大的涌现能力。生成式AI可谓百花齐鸣，争相绽放。
人工智能大讲堂·2023-09-14 06:03

论文阅读之Learning and Generalization of Motor Skills by Learning from Demonstration

0、论文基本信息DMP经典论文论文题目：LearningandGeneralizationofMotorSkillsbyLearningfromDemonstration会议名称：2009ICRA论文作者：PeterPastor,HeikoHoffmann,TaminAsfourandStefanSchaal作者简介：StefanSchaal是美国UniversityofSouthernCalif
Time_Memory_cici·2023-09-14 03:24

论文阅读辅助利器-Zotero-GPT

Zotero支持Windows、MacOS、Linux、iOS等多个平台由于开源，所以它拥有了海量插件的支持，这让zotero成为最好用的论文阅读和写作工具之一。
软件聚导航·2023-09-14 02:14

BART论文要点解读：看这篇就够了

BART来源于BidirectionalandAuto-RegressiveTransformers发表时间:2019.10.29团队：FacebookAIPaper地址代码地址目录Abstrac
五点钟科技·2023-09-14 02:40

论文阅读：E3: Energy-Efficient Microservices on SmartNIC-Accelerated Servers

摘要：我们研究了使用SmartNIC加速服务器在数据中心执行基于微服务的应用程序，发现通过将合适的微服务卸载到智能NIC的低功耗处理器上，我们可以提高服务器的能量效率，而不会造成延迟损失。然而，作为主机数据路径中的异构计算基板，SmartNIC为微服务平台带来了几个挑战：网络流量路由和负载平衡，异构硬件上的微服务放置，以及共享智能NIC资源的争用。我们介绍了E3，一个用于SmartNIC加速服务器
阿明DunDunDun·2023-09-14 01:56

ChatGPT追祖寻宗：GPT-2论文要点解读

LanguageModelsareUnsupervisedMultitaskLearners上篇：GPT-1论文要点解读在上篇：GPT-1论文要点解读中我们介绍了GPT1论文中的相关要点内容，其实自GPT模型诞生以来，其核心模型架构基本没有太大的改变，都是一路坚持奉行着基于Transformer
五点钟科技·2023-09-14 01:37

Activating More Pixels in Image Super-Resolution Transformer（HAT）超分

摘要基于Transformer的方法在低级视觉任务（如图像超分辨率）上表现出令人印象深刻的性能。然而，我们发现这些网络只能通过归因分析利用有限的输入信息空间范围。
是暮涯啊·2023-09-14 01:30

ACL论文阅读笔记_2019-10-20

EffectsofCreativityandClusterTightnessonShortTextClusteringPerformance摘要语料库的属性有：词汇的多样程度相关文档集群的紧密程度语料库的属性往往影响聚类算法的表现，本文研究了多个语料库中不同相似度指标和聚类算法的多种组合下这些属性的影响，结果表明，对于语言学创造性强的语料库，用k-means算法进行聚类时，语意相似度指标的聚类效果
雨住多一横·2023-09-13 23:40

基于Transformers的自然语言处理入门【三】-Bert

基于Transformers的自然语言处理入门【三】-Bert1Bert模型2模型结构3预训练任务：MaskedLanguageModel4Bert特征提取1Bert模型2018年是自然语言处理技术的一个转折点
hezzfew·2023-09-13 21:38

自然语言处理应用(三)：微调BERT

BERT（BidirectionalEncoderRepresentationsfromTransformers）是一种基于Transformer架构的深度双向预训练语言模型，通过在大规模无监督数据上进行预训练
青云遮夜雨·2023-09-13 21:07

matlab/simulink电力电子仿真三相变压器设置和使用

3三相变压器3.1三相变压器长啥样三相变压器就比单相变压器多很多了，我用的是这个，名字叫做Three-PhaseTransformer(TwoWindings)，意思就是三相变压器（双绕组）。
大海蓝了天啊·2023-09-13 18:11

datax启动流程

Transformer：在数据同步、传输过程中，存在用户对于数据传输进行特殊定制化的需求场景，包括裁剪列、转换列等工作Job:Job是DataX用以描述从一个源头到一个目的端的同步作
鸡龙·2023-09-13 06:12

ViewPager2添加自定义动画

此篇为ViewPager2的拓展篇，具体可查看ViewPager2的使用ViewPager2自定义动画的核心是使用PageTransformer来实现，他是ViewPager2中的一个接口原理要显示非默认屏幕滑动动画
not coder·2023-09-13 05:26

FastChat工作原理解析

在了解FastChat如何完成大模型部署前，先了解下Huggingface提供的Transformer库。
taoli-qiao·2023-09-13 04:09

Hugging Face--Transformers

AutoTokenizerAutoModel保存模型自定义模型构建Trainer-PyTorch优化训练循环参考资料Transformers简介
studyeboy·2023-09-13 00:42

Transformer代码计算过程全解

条件设置batch_size=1src_len=8#源句子的最大长度根据这个进行padding的填充tgt_len=7#目标输入句子的最大长度根据这个进行padding的填充d_model=512#embedding的维度d_ff=2048#全连接层的维度h_head=8#Multi-HeadAttention的个数d_k=d_q=64#dimensionofK(=Q)（Q和K的维度需要相同，为了
千禧皓月·2023-09-12 23:13

【具身智能】RT-2：视觉-语言-动作模型（VLA）

文章目录前言一、视觉-语言-动作（VLA）模型二、利用VLM控制机器人三、实验四、Demo五、总结前言RoboticTransformer2（RT-2）是由谷歌DeepMind新推出的大语言模型，它为人类提供了通过纯语言命令来优化机器人控制的能力
Travis.X·2023-09-12 23:32

FasterTransform Decoder 指导

简介这篇文章描述了FasterTransformer为Decoder/Decoding提供了什么支持，解释工作流和优化。
ReadyShowShow·2023-09-12 20:23

PyTorch实现注意力机制及使用方法汇总，附30篇attention论文

不过我们今天要聊的重点不是transformer，而是注意力机制。
深度之眼·2023-09-12 19:26

BEVFromer论文研读

BEVFormer有6个encoder层，每一个encoder除了本文自定义的三个组件外都和传统的transformers结果一致。自定义的三个组件分别是网格状的BEVqueries，TSA和SCA。
高的好想出去玩啊·2023-09-12 18:22

论文阅读 (100)：Simple Black-box Adversarial Attacks (2019ICML)

文章目录1概述1.1要点1.2代码1.3引用2背景2.1目标与非目标攻击2.2最小化损失2.3白盒威胁模型2.4黑盒威胁模型3简单黑盒攻击3.1算法3.2Cartesian基3.3离散余弦基3.4一般基3.5学习率ϵ\epsilonϵ3.6预算1概述1.1要点题目：简单黑盒对抗攻击(Simpleblack-boxadversarialattacks)策略：提出了一个在黑盒设置下构建对抗图像的简单方
因吉·2023-09-12 17:42

[论文阅读]Visual Attention Network原文翻译

[论文链接]https://arxiv.org/abs/2202.09741摘要  虽然一开始是被设计用于自然语言处理任务的，但是自注意力机制在多个计算机视觉领域掀起了风暴。然而，图像的二维特性给自注意力用于计算机视觉带来了三个挑战。（1）将图像视作一维序列忽视了它们的二维结构；（2）二次复杂度对于高分辨率图像来说太昂贵了；（3）它只捕获了空间适应性而忽略了通道适应性。本文我们提出了一种新颖的被叫
不是吧这都有重名·2023-09-12 16:02

Batch normalization 和 Layer normalization的区别

Layernormalization的动机1.1白化(whitening)1.2内部变量偏移(InternalCovariateShift)2.BN和LN的不同3.BN和LN的优点和不足4.Bert、Transformer
Decennie·2023-09-12 16:22

【Image captioning】 Collaborative Transformer for Image Captioning实现流程

Dual-LevelCollaborativeTransformerforImageCaptioning实现流程(原始代码的readme)作者：安静到无声个人主页目录Dual-LevelCollaborativeTransformerforImageCaptioning
安静到无声·2023-09-12 12:45

CVPR最新论文：只需要SwinIR的6%参数量就可以实现相同效果

今天分享的论文是CVPR2023《ComprehensiveandDelicate:AnEfficientTransformerforImageRestoration》代码https://github.com
Alex抱着爆米花·2023-09-12 12:10

SG-Former实战：使用SG-Former实现图像分类任务（一）

摘要SG-Former是一种新型的Transformer模型，它被提出以降低视觉Transformer的计算成本，同时保持其优秀的性能表现。
AI浩·2023-09-12 12:36

自己挖坑自己填，谷歌大改Transformer注意力，速度、内存利用率都提上去了

机器之心报道机器之心编辑部考虑到Transformer对于机器学习最近一段时间的影响，这样一个研究就显得异常引人注目了。
视学算法·2023-09-12 10:59

谷歌大改Transformer注意力，速度、内存利用率都提上去了

点击上方“AI遇见机器学习”，选择“星标”公众号重磅干货，第一时间送达转载自：机器之心考虑到Transformer对于机器学习最近一段时间的影响，这样一个研究就显得异常引人注目了。
Evan-yzh·2023-09-12 10:58

RWKV：在Transformer时代重新定义循环神经网络

abs/2305.13048参考：https://www.zhihu.com/question/602564718/answer/3041307432RWKV:ReinventingRNNsfortheTransformerEraRWKV
帘卷西风尽·2023-09-12 10:28

RWKV:一种鱼和熊掌兼得的线性transformer模型

众所周知，现在transformer及其变种是NLP和CV领域已经杀疯了。但其中最核心的self-attention机制因为其O(N2)的时间复杂度（二次依赖问题）被诟病。
u013250861·2023-09-12 10:28

第十五章 Swin-Transformer——基于移动窗口的分层视觉Transformer网络详解

原文信息原文名称：《SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows》文章标题：SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows
Joney Feng·2023-09-12 10:57

【AI理论学习】语言模型Performer：一种基于Transformer架构的通用注意力框架

语言模型Performer：一种基于Transformer架构的通用注意力框架Performer论文解读RegularAttentionMechanismFAVOR+：通过矩阵相关性实现快速注意力Attention
镰刀韭菜·2023-09-12 10:26

开放域问答论文阅读-Investigating the Factual Knowledge Boundary of Large Language Models with Retrieval Augme

论文链接：2307.11019.pdf(arxiv.org)Abstract知识密集型任务（例如，开放域问答（QA））需要大量事实知识，并且通常依赖外部信息的帮助。最近，大型语言模型（LLM）（例如ChatGPT）在利用世界知识解决各种任务（包括知识密集型任务）方面表现出了令人印象深刻的能力。然而，目前尚不清楚LLM能够如何感知他们的事实知识边界，特别是他们在结合检索增强时的表现。在这项研究中，我
无脑敲代码，bug漫天飞·2023-09-12 07:24

论文阅读-A General Language for Modeling Social Media Account Behavior

论文链接：https://arxiv.org/pdf/2211.00639v1.pdf目录摘要1Introduction2Relatedwork2.1Automation2.2Coordination3BehavioralLanguageforOnlineClassification3.1BLOCalphabets3.1.1Actionalphabet3.1.2Contentalphabets3.
无脑敲代码，bug漫天飞·2023-09-12 07:51

java根据excel模板进行导出数据

org.jxlsjxls-poi2.10.0org.jxlsjxls2.10.0net.sf.jxlsjxls-core1.0.6二、添加util包packagecom.risen.xmgl.util;importnet.sf.jxls.transformer.XLSTransformer
埃里克斯·劳瑟·2023-09-12 05:31

生成多样、真实的评论(2019 IEEE International Conference on Big Data )

论文题目（Title）：LearningtoGenerateDiverseandAuthenticReviewsviaanEncoder-DecoderModelwithTransformerandGRU
肉嘟嘟的zhu·2023-09-12 03:41

《论文阅读20》RoReg: Pairwise Point Cloud Registration With Oriented Descriptors and Local Rotations

一、论文研究领域：点云配准论文：RoReg:PairwisePointCloudRegistrationWithOrientedDescriptorsandLocalRotationsIEEETransactionsonPatternAnalysisandMachineIntelligence稿件于2022年9月5日收到;2023年1月18日修订;2023年2月5日接受github链接论文链接二、
Darren_pty·2023-09-12 03:38

Transformer-1. 注意力机制基础

基础部分比较简单，也还没有涉及到应用的核心，全是搬运，主要介绍几个例子。主要是搬运来的：动手学深度学习NLP-王树森1.心理学人类的注意力是有限的、有价值和稀缺的资源。而环境中的干扰注意力的信息却并不少。比如人类的视觉神经系统大约每秒收到位的信息，这远远超过了大脑能够完全处理的水平。幸运的是，人类的祖先已经从经验（也称为数据）中认识到“并非感官的所有输入都是一样的”。在整个人类历史中，这种只将注意
cartes1us·2023-09-12 01:23
上一页 77 78 79 80 81 82 83 84 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他