TypeError: sdp_kernel() got an unexpected keyword argument ‘enable_mem_efficient‘

1.问题

在训练baichuan2-7B-chat模型的时候出现以下问题:
在这里插入图片描述

2.解决方案

根据issues111中提到的解决方式:

  • torch版本升到2.0以上。
  • pip install xformers (实际上也是把torch升到2.0以上)

你可能感兴趣的:(bug解决,python,自然语言处理)