fairseq

Fairseq框架学习（三）Fairseq 模型

本节主要介绍Fairseq模型以及如何自定义模型。
Aiah_Wang·2022-05-30 18:06

Fairseq框架学习（二）Fairseq 预处理

Fairseq在RoBERTa的代码中提供了这一方法。本文不再详述BPE分词，直接使用实例说明。
Aiah_Wang·2022-05-30 18:32

恒源云(GPUSHARE)_语音识别与语义处理领域之 NAG 优化器

正文开始最近在看fairseq源码时发现NAG优化器(NesterovAccelerategradient)的实现与torch自带的有些许不一样，于是打算查下资料了解清楚。先回忆下
恒源云·2022-03-04 18:40

[将句子切分]split

看到fairseq里面是这样写的有点不理解然后看了下官方的文档发现Ifyouuse.split()instead,theprogramwilltakeintoaccountmultiplespaces,
VanJordan·2022-02-09 17:19

恒源云_语音识别与语义处理领域之 NAG 优化器

正文开始最近在看fairseq源码时发现NAG优化器(NesterovAccelerategradient
·2021-12-08 12:38

来自 Facebook 的翻译模型：Fairseq

【导语】：Fairseq是一个序列建模工具包，可对翻译、摘要、语言建模和其他文本作业训练自定义建模，完全使用python实现，主要面向科研人员和开发者。
·2021-03-28 15:57

来自 Facebook 的翻译模型：Fairseq

【导语】：Fairseq是一个序列建模工具包，可对翻译、摘要、语言建模和其他文本作业训练自定义建模，完全使用python实现，主要面向科研人员和开发者。
·2021-03-28 15:14

fairseq transformer训练中的一些问题

fairseqtransformer训练中的一些问题这两天看fairseqtransformer的代码，并在服务器用transformer跑实验。今天遇到一些问题，和师兄进行了一些交流，记录下来。另一篇梳理nlp中的一些英文名词的还在写，整理好再发布。transformer中的数据的流向和形式的变化？在训练前，数据基本都是以batch_size∗src_lenbatch\_size*src\_le
Dracen_Wu·2020-09-13 00:35

error: command 'gcc' failed with exit status 1 - fairseq/clib/libbleu/libbleu.cpp:9:10: fatal error:

对于macosMojave系统来说，先exportCFLAGS='-stdlib=libc++'再pythonsetup.pyinstall参考：https://github.com/pytorch/fairseq
甜果果2333·2020-08-23 11:15

fairseq报错-Error installing nn

torch版本太老：升级torch：luarocksinstalltorch安装nn：luarocksinstallnnokay！
lqfarmer·2020-08-23 10:11

facebook/fairseq运行中遇到的问题（cuda9.1/dudnn7）

1.Triedloadinglibnccl.so.1butgoterror～/torch/install/share/lua/5.1/nccl/ffi.lua:192:libnccl.so.1:cannotopensharedobjectfile:Nosuchfileordirectory？解决：$gitclonehttps://github.com/NVIDIA/nccl.git$cdnccl$
longma666666·2020-08-23 10:10

Ubuntu+GPU上Debug Torch项目fairseq

1，下载并启动zbstudio$gitclonehttps://github.com/soumith/zbs-torch.git$cdzbs-torch$./zbstudio.sh2，安装Torchhttp://torch.ch/docs/getting-started.html3，安装ncclgitclonehttps://github.com/NVIDIA/ncclcdncclmakeinst
guotong1988·2020-08-23 10:42

手把手教你用fairseq训练一个NMT机器翻译系统

以构建英-中NMT为例，在linux上运行，fairseq版本为0.8.0环境准备Requirements：fairseq：pytorch包，包括许多网络结构，https://github.com/pytorch
胤风·2020-08-23 09:05

fairseq与torch安装时报错

最近在Linux上进行深度学习框架使用时需要搭建环境，其中用到了torch与fairseq以及一些其他的依赖包。
wapecheng·2020-08-23 09:06

Seq2Seq模型及Attention机制

一种是以cnn为基础的模型，后面提到的Fairseq就属于这种。
小小鸟要高飞·2020-08-23 08:56

深度之眼Paper带读笔记NLP.28：TCN （Temporal Convolutional Networks）

文章目录前言第一课论文导读序列建模序列建模的发展历史序列建模技术总览序列建模与循环神经网络（RNN）序列建模与循环神经网络（LSTM）序列建模与循环神经网络（Seq2Seq）序列建模与卷积神经网络(CNN)序列建模与卷积神经网络(FairSEQ
oldmao_2001·2020-08-23 06:35

Facebook开源 PyTorch版 fairseq，准确性最高、速度比循环神经网络快9倍

今年5月，FacebookAI研究院（FAIR）发表了他们的研究成果fairseq，在fairseq中，他们使用了一种新型的卷积神经网络来做语言翻译，比循环神经网络的速度快了9倍，而且准确性也是现有模型中最高的
weixin_33730836·2020-08-22 14:17

Convolutional_Seq2Seq的环境搭建及训练

上次分享了FaceBook最近提出的ConvolutionSeq2Seq模型的一些理论知识，今天跟大家分享一下实际操作经验,主要包括三个方面内容：1、安装Torch平台，2、配置fairseq环境，3、
lqfarmer·2020-08-22 12:11

论文复现《Effective Adversarial Regularization for Neural Machine Translation》

原文是基于另一个库Chainer实现的，我在fairseq框架上加以复现，基于pytorch>=1.0论文中主要用公式来介绍主要思想，主要集中在wordembedding和loss部分的修改：wordembeddin
Dracen_Wu·2020-08-16 05:41

机器翻译模型之Fairseq：《Convolutional Sequence to Sequence Learning》

近年来，NLP领域发展迅速，而机器翻译是其中比较成功的一个应用，自从2016年谷歌宣布新一代谷歌翻译系统上线，神经机器翻译（NMT，neuralmachinetranslation）就取代了统计机器翻译（SMT，statisticalmachinetranslation），在翻译质量上面获得了大幅的提高。目前神经机器翻译模型主要分为三种：1.一种是以rnn为基础的模型，一般是LSTM+attent
zhixuhao·2020-07-10 04:36

windows下安装使用fairseq框架

最近，Facebook又开源了fairseq的PyTorch版：fairseq-py。
sigmeta·2020-06-26 10:20

Facebook开源的机器翻译框架-号称比Google更准且快9倍的机器翻译模型

五月份的时候，Facebook发布了Fairseq机器翻译模型，号称比基于RNN的模型训练速度提升了九倍，而且翻译质量更高，经过实测，速度和翻译质量也确实有可观的提升，基于pytorch实现的版本也于不久前开源
AlexTuring·2020-03-13 12:14

tensor2tensor

最近想做翻译，现在的好多开源框架师兄都说不错，因为想做的中英翻译发现fairseq没有直接支持，而t2t是直接可以中英翻译的，所以学习一波这个框架。
VanJordan·2020-02-16 19:53

fairseq

首先fairseq要让下两个包，一个是mosesdecoder里面有很多有用的脚本，其中一个是用来清除训练过程集合中过长的句子，以及一些src句子和tgt句子的长度比过
VanJordan·2020-02-11 09:56

文献阅读笔记:RoBERTa：A Robustly Optimized BERT Pretraining Approach

华盛顿大学作者：YinhanLiu、MyleOtt发布地方：arxiv论文地址：https://arxiv.org/abs/1907.11692论文代码：https://github.com/pytorch/fairseq1
JasonLiu1919·2019-09-09 16:11

fairseq 命令 结论

/bin/envshset-e#globalflagFLAG=baselineSRC_LANG=enTGT_LANG=fr#userdirectoryROOT_DIR=/home/zhaoliang/fairseq-slimTMP_DIR
VanJordan·2019-05-05 22:50

Scaling Neural Machine Translation

论文地址:https://arxiv.org/pdf/1806.00187.pdf代码地址:https://github.com/pytorch/fairseq/tr
a609640147·2019-05-05 09:32

[fairseq]translation task model 以及transformer的实现

translation.py在train的时候如果不指定sourselanguage和targetlanguage，那么，languagepair必须是这样的形式.-.(...).idx,split是trainvalidtest也就是说languagepair要在第一个.后面，以及用-隔开两个语言对parts=filename.split('.')iflen(parts)>=3andlen(par
VanJordan·2019-05-03 11:28

[fairseq] generate.py

[TOC]generate.pyargs.data和args.gen_subset的区别?task=tasks.setup_task(args)task.load_dataset(args.gen_subset)print('|{}{}{}examples'.format(args.data,args.gen_subset,len(task.dataset(args.gen_subset))))原
VanJordan·2019-04-28 22:29

文集缘由

神经网络之反向传播神经网络之RNN隐马尔可夫模型RNN之LSTMWord2VecTutorial-TheSkip-GramModel后续：word2vec更多内容介绍attention机制介绍seq2seq模型介绍fairseq
我叫胆小我喜欢小心·2017-07-15 13:06

【论文阅读】Convolutional Sequence to Sequence Learning （未完待续）

论文github地址值得阅读与一试：https://github.com/facebookresearch/fairseq以往谈到sequencetosequence，往往会下意识地想到RNN，但这篇文章告诉我们
Hackerzer·2017-06-14 10:13
上一页 1 2 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他