Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Process
摘要这篇文章是对最近比较火的“prompt”的一个总结,一篇非常好的综述,做NLP方向建议都要读一读:)本文将这种方法称之为“prompt-basedlearning”,之前传统的监督学习方法,是对给定的x训练一个模型,然后预测对应的y。prompt-basedlearning是基于语言模型直接对文本的概率进行建模。具体为:起初的输入x中加入一个模板(template),其中含有一些需要预测的位置