在bert的基础模型上训练自己的数据(只是过程源码解析后面更新)

1.第一步
从github上下载bert的源码链接,并且下载BERT模型链接
2.第二步
准备数据中文数据样式如图所示:
在bert的基础模型上训练自己的数据(只是过程源码解析后面更新)_第1张图片
(每一句话一行)
3.第三步
使用bert/create_pretraining_data.py来做数据的预处理
主要是修改改文件的FLAGS.参数即可
在bert的基础模型上训练自己的数据(只是过程源码解析后面更新)_第2张图片

4.第四步
运行bert/run_pretraining.py 同样只要修改FLAGS.参数 即可
在bert的基础模型上训练自己的数据(只是过程源码解析后面更新)_第3张图片

到这就可以了

你可能感兴趣的:(python,bert)