LLM-2023:Alpaca(羊驼)【Stanford】【性能与GPT3.5相当比GPT4逊色,训练成本不到100美元,基于LLaMA和指令微调,仅使用约5万条训练数据就能达到类似GPT-3.5】
斯坦福的Alpaca模型基于LLaMA-7B和指令微调,仅使用约5万条训练数据,就能达到类似GPT-3.5的效果。斯坦福70亿参数开源模型媲美GPT-3.5,100美元即可复现Alpaca的训练流程很简单,只有两个步骤:将175个人工设计的指令任务作为种子,使用text-davinci-003随机生成指令,最终生成了52,000条指令数据。例如:{"instruction":"Rewritethe