BERT的提出对于NLP领域是一项里程碑。再一次证明了利用语言模型的预训练然后再针对具体下游任务微调是NLP研究近些年来的优秀做法。
在github上下载BERT官方模型需要下载的BLUE data数据集时,可能失败,因为可能由于模型开发时python版本较低,导致导包出现问题,下面给出python3以上版本下载GLUE data数据集的代码
import io
import os
import sys
import shutil
import argparse
import tempfile
import urllib
import urllib.request
import zipfile
TASKS = [