ChatGLM推理报错RuntimeError: probability tensor contains either `inf`, `nan` or element < 0

训练完ChatGLM后想执行推理时,发现模型报错

RuntimeError: probability tensor contains either `inf`, `nan` or element < 0

解决方法:
删除ptuning下的main.py文件第387行和396行的do_sample=True红框语句。
ChatGLM推理报错RuntimeError: probability tensor contains either `inf`, `nan` or element < 0_第1张图片

你可能感兴趣的:(深度学习,chatgpt,ChatGLM)