NLP-预训练模型:迁移学习(拿已经训练好的模型来使用)【预训练模型:BERT、GPT、Transformer-XL、XLNet、RoBerta、XLM、T5】、微调、微调脚本、【GLUE数据集】

深度学习-自然语言处理:迁移学习(拿已经训练好的模型来使用)【GLUE数据集、预训练模型(BERT、GPT、transformer-XL、XLNet、T5)、微调、微调脚本】

  • 一、迁移学习概述
  • 二、NLP中的标准数据集
    • 1、GLUE数据集合的下载方式
    • 2、GLUE子数据集的样式及其任务类型
      • 2.1 CoLA数据集【判断句子语法是否正确】
      • 2.2 SST-2数据集【情感分类】
      • 2.3 MRPC数据集【判断每对句子是否具有相同含义】
      • 2.4 STS-B数据集【计算每对句子的含义相似程度】
      • 2.5 QQP数据集【判断每对问题是否是重复问题】
      • 2.6 (MNLI/SNLI)数据集【判断每对句子的蕴含关系:蕴含、中性、矛盾】
      • 2.7 (QNLI/RTE/WNLI)数据集【判断每对句子的蕴含关系:蕴含、不蕴含】
  • 三、NLP中的常用预训练模型
    • 1、BERT及其变体
    • 2、GPT
    • <

你可能感兴趣的:(自然语言处理/NLP,#,NLP/词向量_预训练模型,人工智能,深度学习,自然语言处理,NLP,迁移学习)