tensor2tensor

自然语言处理领域论文整理(持续更新)

1AttentionIsAllYouNeed（2017年）AshishVaswani∗，NoamShazeer∗模型,transformer,自然语言处理https://github.com/tensorflow/tensor2tensor
零戚·2024-01-30 09:46

深度了解Transformer【1】

论文相关的Tensorflow的代码可以从GitHub获取，其作为Tensor2Tensor包的一部分。哈佛的NLP团队也实现了一个基于PyTorch的版本，并注释该论文。
小菜学AI·2024-01-19 19:31

SinusoidalPositionalEmbedding/tensor2tensor中实现的绝对位置编码

一、目录代码二、实现代码importtorch.nnasnnimportmathimporttorchfromtypingimportOptional,AnyclassSinusoidalPositionalEmbedding(nn.Embedding):"""Thismoduleproducessinusoidalpositionalembeddingsofanylength.Wedon'twa
云帆@·2024-01-12 07:38

tensor2tensor 1.10--Modality

tensor2tensor中抽象出了一个Modality类，用来解耦模型主干和依赖任务的数据形式转化。
chao0804·2023-12-18 12:35

论文精读Transformer: Attention is all you need

论文链接：https://arxiv.org/abs/1706.03762源码链接：https://github.com/tensorflow/tensor2tensor一句话概述：Attention机制摒弃了循环神经网
EEPI·2023-09-23 23:20

Attention is all you need 官方 tensorflow 1.x 实现

https://github.com/tensorflow/tensor2tensor/blob/master/tensor2tensor/models/transformer.py1，搭建cuda10.0
Eloudy·2023-08-27 19:25

在Seq2Seq和注意力机制中如何可视化模型细节

参考：https://www.jianshu.com/p/df7906a2a28e上面的参考博文中重点介绍了Bert的可视化后的结果，将Bert中的注意力机制通过Tensor2Tensor工具描述出来。
2cd1·2023-08-07 14:33

Attention Is All You Need

论文:AttentionIsAllYouNeedGithub:GitHub-tensorflow/tensor2tensor:LibraryofdeeplearningmodelsanddatasetsdesignedtomakedeeplearningmoreaccessibleandaccelerateMLresearch
watersink·2023-04-05 22:03

Tensor2Tensor使用入门

1.简介Tensor2Tensor是google出品的一个神仙级工具包，能大大简化类似模型的开发调试时间。在众多的深度学习工具中，个人认为这货属于那种门槛还比较高的工具。
Nevrast·2023-03-22 06:54

Unable to determine the device handle for GPU 0000:02:00.0: GPU is lost. Reboot the sys

在使用tensor2tensor进行训练的时候，设置worker_gpu=4（显卡总数为4），运行一会儿就会出现下面的情况：UnabletodeterminethedevicehandleforGPU0000
hpulfc·2023-02-07 09:02

Transformer浅析

1706.03762原解析地址：https://jalammar.github.io/illustrated-transformer/代码地址：https://github.com/tensorflow/tensor2tensor
Chermack·2023-01-23 08:17

Transformer模型详解（图解最完整版）

论文相关的Tensorflow的代码可以从GitHub获取，其作为Tensor2Tensor包的一部分。哈佛的NLP团队也实现了一个基于PyTorch的版本，并注释该论文。
初识-CV·2023-01-21 08:27

【转载】The Annotated Transformer

最近在看Transformer，但是本人并不是NLP研究方向的，所以有诸多细节不理解，网上大多数博客讲的模棱两可又权威性不够，翻看了《attentionisallyouneed》论文中给的源码链接tensor2tensor
不会爆冲不改名·2023-01-06 20:25

NIPS-2017-原始变压器: Attention Is All You Need 阅读笔记

proceedings.neurips.cc/paper/2017/file/3f5ee243547dee91fbd053c1c4a845aa-Paper.pdf代码地址：https://github.com/tensorflow/tensor2tensor
菜菜子hoho·2023-01-01 14:16

image caption （四）Transformer

Transformer的结构在NLP领域中已经得到了广泛应用，并且作者已经发布在TensorFlow的tensor2tensor库中Encoder：(可并行)1）输入：单词Embedding位置Embedding
刘咚咚的记事本·2022-12-30 14:38

李沐精读论文：transformer 《Attention Is All You Need》 by Google

哔哩哔哩_bilibili课程（推荐先看这个）：李宏毅机器学习：self-attention（自注意力机制）和transformer及其变形代码：https://github.com/tensorflow/tensor2tensor
iwill323·2022-12-18 07:47

transformer版本翻译——从torch到tf2

allyouneedisattention这个paper说的transformer附带的官方transformer代码太复杂了（就是tensor2tensor），哈佛NLP附带了torch版本的代码，本菜鸟要将
小李飞刀李寻欢·2022-12-09 08:52

论文解析[6] Transformer: Attention Is All You Need

发表年份：2017论文地址：https://arxiv.org/abs/1706.03762代码地址：https://github.com/tensorflow/tensor2tensor文章目录摘要3
默_silence·2022-12-04 10:56

Pytorch中Tensor与各种图像格式（PIL 和 Numpy）的相互转化

Tensor1PIL读取图片转化为Tensor2将PIL图片转化为Tensor3Tensor转化为PIL图片4直接展示tensor格式图片5直接保存tensor格式图片Numpy与Tensor1numpy转化为tensor2tensor
Phoenixtree_DongZhao·2022-12-03 07:35

Transformer：Attention Is All You Need

《AttentionIsAllYouNeed》6Dec2017Transformer开山之作https://github.com/tensorflow/tensor2tensor；0摘要主要的序列转导模型基于包括编码器和解码器的复杂
不存在的c·2022-11-29 08:23

Transformer最详细解析

论文相关的Tensorflow的代码可以从GitHub获取，其作为Tensor2Tensor包的一部分。哈佛的NLP团队也实现了一个基于PyTorch的版本，并注释该论文。
不可能打工·2022-07-14 21:59

【NLP】Transformer详解

详解 Transformer在Google的一篇论文AttentionisAllYouNeed被提出，为了方便实现调用TransformerGoogle还开源了一个第三方库，基于TensorFlow的Tensor2Tensor
元宇宙iwemeta·2022-03-01 07:31

Transformer 模型

Transformer模型论文：AttentionIsAllYouNeed代码：Tensor2Tensor哈佛PytorchTransformer代码torch.nn.TransformerTransformer
淇时·2020-09-13 03:57

ImportError: No module named tensorflow.compat.v1

Tensor2Tensor运行出错ImportError:Nomodulenamedtensorflow.compat.v1链接:相关连接.解决办法tensor2tensor=1.13.0对应mesh-tensorflow
summer如歌·2020-09-11 03:22

Tensor2Tensor手把手使用教程

Tensor2Tensor手把手使用教程1.模型介绍2.一些前期操作2.1安装依赖包2.2创建相关文件夹3数据准备3.1自己造数据3.2定义自己的问题3.3生成数据4.模型训练5.deocde1.模型介绍
Lorenly·2020-08-16 00:52

图解Transformer，读完这篇就够了

论文相关的Tensorflow的代码可以从GitHub获取，其作为Tensor2Tensor包的一部分。哈佛的NLP团队也实现了一
喜欢打酱油的老鸟·2020-08-14 14:13

项目总结之机器翻译（使用tensor2tensor框架，transformer算法实现）--实战篇（机器翻译，序列生成）

下面会分这几部分来介绍1tensor2tensor的介绍2使用tensor2tensor训练翻译模型的具体操作3模型部署4目前使用的一些数据预处理，清洗的方法T2T使用了TensorFlow进行的有监督学习和为序列任务提供支持
huangrs098·2020-08-08 19:41

机器翻译Transformer实战：利用nvidia-docker和Tensorflow Serving快速部署一个基于Tensor2Tensor的神经机器翻译服务

Docker目前也只是跑通，能进行基本的使用。如果有需求，还可以使用DockerGPU版本，可以使用GPU。以GPU版本为例：卸载原有的Dockersudoapt-getremovedockersudoapt-getremovedocker-cesudoapt-getremovedockerdocker-enginedocker.iocontainerdrunc本机环境nvidia驱动：最新版Ub
kudou1994·2020-08-08 11:44

【NLP】Transformer详解

 Transformer在Google的一篇论文AttentionisAllYouNeed被提出，为了方便实现调用TransformerGoogle还开源了一个第三方库，基于TensorFlow的Tensor2Tensor
马苏比拉米G·2020-08-05 15:33

Attention机制详解（二）——Self-Attention与Transformer

这一篇就主要根据谷歌的这篇AttentionisAllyouneed论文来回顾一下仅依赖于Attention机制的Transformer架构，并结合Tensor2Tensor源代码进
你的雷哥·2020-08-01 20:00

“变形金刚”为何强大：从模型到代码全面解析Google Tensor2Tensor系统

本文对Tensor2Tensor系统从模型到代码进行
weixin_34268579·2020-07-30 17:35

transformer详解(2)---使用自己的数据训练tensor2tensor

1.环境自定义训练数据训练transformer,实现中文到英文的翻译环境：tensorflow1.14python3.6.xtensor2tensor2.自定义数据训练Tensor2Tensor2.1自定义一个用户目录(参数--t2t_usr_dir的值)该目录下主要存放以下文件：(1).自定义问题文件(myproblem.py)(2).创建__init__.py并且在init.py中把prob
orangerfun·2020-07-14 16:13

Tensor2Tensor（四）

更换tensor2tensor版本(v1.11.0)遇到的问题:1.Nomodulenamed'tensorflow_probability'------------------------------
wxw060709·2020-07-09 01:23

神经机器翻译（NMT）开源工具

wangxinginnlp/article/details/52944432工具名称：T2T:Tensor2TensorTransformers地址：https://github.com/tensorflow/tensor2tensor
warrioR_wx·2020-07-01 02:38

t2t模型启动web服务

t2t中是自带api实现web服务的，参考地址https://github.com/tensorflow/tensor2tensor/tree/master/tensor2tensor/serving按照给出的步骤进行即可
ylyyyy·2020-06-28 23:59

Google Tensor2Tensor系统一文读懂

本文对Tensor2Tensor系统从模型到代码进行了全面的解析，期望能够给大家提供有用的信息。第
小晓酱手记·2020-06-26 10:17

如何使用tensor2tensor部署一个预测任务

之前有人说怎么将t2t的训练模型部署起来，其实不难！首先，是安装tensorflow-model-server可以自行百度！然后进行下列操作：这里假设你已经有了训练好的t2t模型模型导出：t2t-exporter\--t2t_usr_dir=$T2T_USR_DIR\--model=$MODEL\--hparams_set=$HPARAMS\--problem=$PROBLEM\--data_di
hpulfc·2020-06-23 15:40

T2T Transformer 笔记

ricardokleinklein.github.io/2017/11/16/Attention-is-all-you-need.html1.MutliGPU和Single配置的区别https://github.com/tensorflow/tensor2tensor
warrioR_wx·2020-06-23 13:39

关于Tensor2Tensor运行提示ImportError: No module named tensorflow.compat.v1解决办法

之前在公司的服务器环境上装T2T跑机器翻译，环境中自带TF1.10和CUDA9.0，服务器环境为离线只允许个人上下传文件。运行t2t-datagen提示ImportError:Nomodulenamedtensorflow.compat.v1按照网上搜索pipinstall--ignore-installed--upgrade--ignore-installedtensorflow并不能解决问题。
darkt2014·2020-06-23 02:50

spyder 在控制台(console)执行python文件,debug python程序方式

debug：栗子：debugfile('/home/1/tensor2tensor/tensor2tensor/bin/t2t-datagen',args='--problem=image_mnist-
qq_28808697·2020-04-20 09:05

一个模型库学习所有：谷歌开源模块化深度学习系统Tensor2Tensor丨数据工匠简报（Jun. 26）

一个模型库学习所有：谷歌开源模块化深度学习系统Tensor2Tensor在谷歌提交热点论文《AttentionIsAllYouNeed》和《OneModelToLearnThemAll》不久之后，这家公司很快就发布了最新研究的模型和训练集
Datartisan数据工匠·2020-03-01 17:25

tensor2tensor

最近想做翻译，现在的好多开源框架师兄都说不错，因为想做的中英翻译发现fairseq没有直接支持，而t2t是直接可以中英翻译的，所以学习一波这个框架。Trainer：是training,evaluation和inference的入口，更改模型是使用--model参数，更改数据集是使用--problem参数，更改超参是使用--hparams_set参数，特定的超参数可以使用--hparams进行替换，
VanJordan·2020-02-16 19:53

配置tensor2tensor在GPU上面运行

1.tensor2tensor运行在GPU上面的简单总结首先测试tensorflow的简单程序能否运行在GPU上面，执行下面的代码importtensorflowastfwithtf.device('/device:GPU:0'):a=tf.constant([1.0,2.0,3.0,4.0,5.0,6.0],shape=[2,3],name='a')b=tf.constant([1.0,2.0,
GodsLeft·2019-09-19 14:10

transformer和transformer-xl的解读

第一部分：TRANSFORMERTransformer出自于论文AttentionisAllYouNeed，Tensorflow实现的版本可以由Tensor2Tensor下载查看。
ywm-pku·2019-08-28 10:31

Tensorflow-probability、Tensorflow、Tensor2Tensor、CUDA之间的版本对应关系

ImportError:ThisversionofTensorFlowProbabilityrequiresTensorFlowversion>=1.13.1;Detectedaninstallationofversion1.12.0.PleaseupgradeTensorFlowtoproceed.本机使用GTX1080ti目前Tensorflow稳定版本为1.13.1Tensor2Tensor
kudou1994·2019-03-12 19:16

Transformer论文翻译

基本是机器翻译，进行了简单的人工修正，凑活看吧原论文：《AttentionIsAllYouNeed》源代码：https://github.com/tensorflow/tensor2tensor关于注意力机制的更多信息
tomeasure·2019-03-04 00:44

Transformer学习笔记

AshishVaswani等发表会议：NIPS2017面向任务：机器翻译论文地址：https://arxiv.org/abs/1706.03762论文代码：https://github.com/tensorflow/tensor2tensor
JasonLiu1919·2019-01-26 18:07

Transformer源码解读

原文转载请注明出处之前我们一起了解了attention、transformer的原理，本文将会基于github的一个transformer(下文会针对我对该代码的一个改版讲解)开源代码进行代码分析讲解，该代码相比于Google提供的tensor2tensor
CopperDong·2019-01-26 16:39

tensor2tensor项目中机器翻译中的bug

tensor2tensor提供了一个非常好的功能，只要在translate后面加上_rev，就能实现源语言和目标语言反转。也就是只要实现英文-->中文的训练过程，datagen只执行一
hjx5200·2019-01-24 16:41

tensor2tensor自定义问题，训练模型(bpe篇)

tensor2tensor自定义问题，训练模型上一篇：https://blog.csdn.net/hpulfc/article/details/81172498之前一篇文章简单介绍了如何使用google
hpulfc·2018-09-13 15:36
上一页 1 2 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他