书生浦语-模型微调

大语言模型微调

书生浦语-模型微调_第1张图片

指令微调的流程

书生浦语-模型微调_第2张图片
书生浦语-模型微调_第3张图片
书生浦语-模型微调_第4张图片

LoRA(旁路分支微调)

书生浦语-模型微调_第5张图片
书生浦语-模型微调_第6张图片
书生浦语-模型微调_第7张图片

Xtuner微调框架

书生浦语-模型微调_第8张图片
书生浦语-模型微调_第9张图片
书生浦语-模型微调_第10张图片

微调训练

书生浦语-模型微调_第11张图片
书生浦语-模型微调_第12张图片

作业

微调作业需要多训练几个epoch,这里训练了16个epoch

书生浦语-模型微调_第13张图片

书生浦语-模型微调_第14张图片

你可能感兴趣的:(NLP,python,语言模型,人工智能)