TypeError: sdp_kernel() got an unexpected keyword argument ‘enable_mem_efficient‘

1.问题

在训练baichuan2-7B-chat模型的时候出现以下问题：

2.解决方案

根据issues111中提到的解决方式:

• torch版本升到2.0以上。
• pip install xformers (实际上也是把torch升到2.0以上)