文本数据增强方法

文章目录

  • 1. EDA
  • 2. 回译
  • 3. 环境安装
    • 3.1 安装synonyms
  • 4. 代码链接

  在人工智能领域中,最核心的莫过于算法、数据和算力。随着科技的发展,算力日益增长、算法日益智能,高质量的数据成为了阻碍AI发展的一大瓶颈。
  在计算机视觉领域中,数据增强的方法较为常用,例如通过图像缩放、图像裁剪、mixup等数据增强的方法可以有效的提高任务的准确率。随着技术的发展,在自然语言处理领域中也产生了一些有效的数据增强算法,例如EDA(Easy Data Augmentation)、回译、文本生成等。在NLP比赛中,比较简单但却有效的方法主要是EDA和回译。

1. EDA

  EDA指的是简单数据增强,包括了同义词替换、随机插入、随机删除、随机交换。其中同义词替换指的是从句子中随机选取一定比例的词(不属于停用词的,下同),使用同义词来替换它们;随机插入指的是从句子中随机选取词,然后得到该词的同义词,并将同义词插入句子的一个随机位置,将上述操作重复进行若干次;随机删除指的是在随机选择句子中一定比例的单词进行删除;随机交换指的是在句中随机选择两个不同位置的单词,并将其进行交换,将上述操作重复进行若干次。为了更好的进行理解,通过实例来进行说明,原始句子为:带着无限同情偷转导师日志:学

你可能感兴趣的:(AI比赛经验分享,机器学习,数据增强,NLP)