大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业

按照文档操作:

大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第1张图片单卡跑完训练:大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第2张图片

按照要求更改微调的数据:

大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第3张图片

完成微调数据的脚本生成:

大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第4张图片

修改配置文件:大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第5张图片

替换好文件后启动:大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第6张图片

启动后终端如图:大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第7张图片

用于微调的一些数据显示:

大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第8张图片

训练时间,loss:

大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第9张图片

可见模型是经过微调数据反复纠正,慢慢被引导向微调设计者所想的方向:

大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第10张图片

3个epoch完:

大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第11张图片

参数转换、合并:大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第12张图片

大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第13张图片更改路径为现存的参数:大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第14张图片

用streamlit进行启动模型,开始对话:

大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第15张图片

但是有错误 ,到DDL了。

大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第16张图片

加载完镜像后再运行,其他能显示,图片却不能,心态小崩。

大模型实战营Day4 XTuner 大模型单卡低成本微调实战 作业_第17张图片

模型已经微调完,图片总是有问题,如我的远程登录一般无二。

你可能感兴趣的:(深度学习,人工智能,AIGC,prompt)