错误:CUDA error: device-side assert triggered CUDA kernel errors

对llama扩充中文词表后直接增量预训练,忘记设置--modules_to_save embed_tokens,lm_head,所以导致向量维度不一致,出现下面的错误。

1. 错误

在这里插入图片描述

2. 原因

出现这个错误的原因可能是因为维度或标签不一致。可以仔细排查一下。

你可能感兴趣的:(bug解决,python)