使用huggingface的accelerate库出现张量不在同一个设备的RuntimeError
报错如下RuntimeError:Expectedalltensorstobeonthesamedevice,butfoundatleasttwodevices,cuda:1andcuda:2!原因分析模型的层数过多时,可能有些层被分到了不同的GPU上解决方案首先打印看看自己的模型有哪些模块,比如WizardCoder-15B有这些主要模块no_split_module_classes=["Dro