PyTorch实战：Seq2seq模型完成机器翻译任务(详细注释版)

简要

本博客以《PyTorch自然语言处理入门与实战》第九章的Seq2seq模型处理英译中翻译任务作为基础，给出自己的理解及代码的详细注释。

数据预处理

在数据预处理中，用到了train.tags.zh-en.en和train.tags.zh-en.zh两个文件，第一个文件包含英译中任务的英文内容，第二个文件包含英译中任务的中文内容(数据集下载链接)。

两个文件来自IWSLT 2015数据集(提供了一些TED演讲的多种语言和英语之间的翻译)。

代码如下：

# step1: 从文件所包含的众多信息中筛选出演讲内容
fen = open('train.tags.zh-en.en', encoding='utf8')  # 演讲稿的英文内容
fzh = open('train.tags.zh-en.zh', encoding='utf8')  # 演讲稿的中文内容
en_zh = []
while True:
    lz = fzh.readline()  # 每次执行依次读取中文文件中的一行内容
    le = fen.readline()  #  每次执行依次读取英文文件中的一行内容
    # 判断是否读完文件
    if not lz:
        assert not le  # 如果读完，两个文件的结果都应该是空行  not lz == not le == True
        break
    lz, le = lz.strip(), le.strip()  # 返回删除首尾空白字符(换行符也能删除)的字符串副本
    # 筛选出需要的演讲内容部分
    if lz.startswith(''):
        assert le.startswith('')
        lz = fzh.readline()
        le = fen.readline()
        # 关键词部分
        assert lz.startswith('')
        assert le.startswith('')
        lz = fzh.readline()
        le = fen.readline()
        # 演讲人部分
        assert lz.startswith('')
        assert le.startswith('')
        lz = fzh.readline()
        le = fen.readline()
        # 演讲 ID
        assert lz.startswith('')
        assert le.startswith('')
        lz = fzh.readline()
        le = fen.readline()
        # 标题部分
        assert lz.startswith('