prompt tuning

Prompt-Tuning——深度解读一种新的微调范式

  • prompt tuning 整体解读
  • 连续pattern构建论文解读整理

prompt tuning 整体解读

1级:Prompt是一种对任务的指令;
2级:Prompt是一种对预训练目标的复用;
3级:Prompt本质是参数有效性训练;
https://blog.csdn.net/qq_36426650/article/details/120607050

连续pattern构建论文解读整理

《The Power of Scale for Parameter-Efficient Prompt Tuning》:代表方法为Prompt Tuning
《GPT Understands, Too》:代表方法为P-tuning
《PPT: Pre-trained Prompt Tuning for Few-shot Learning》:代表方法PPT

你可能感兴趣的:(深度学习,python,人工智能)