提示词prompt、RAG、Agent框架、微调Fine-tuning在实际应用中的落地选择

LLM四大技术底座

大模型应用的四大技术底座

提示词prompt、RAG、Agent框架、微调Fine-tuning在实际应用中的落地选择_第1张图片

优化流程

大模型技术选择时遵循的路径:首先会使用提示词来进行选底座的过程。

提示词prompt、RAG、Agent框架、微调Fine-tuning在实际应用中的落地选择_第2张图片

提示词的本质相当于text的填充,提示词的know how能力会扩展到RAG,提示词的指令遵循能力会扩展到FT微调。

RAG和微调的对比

提示词prompt、RAG、Agent框架、微调Fine-tuning在实际应用中的落地选择_第3张图片

RAG框架

提示词prompt、RAG、Agent框架、微调Fine-tuning在实际应用中的落地选择_第4张图片

评估RAG框架:RAG评分

提示词prompt、RAG、Agent框架、微调Fine-tuning在实际应用中的落地选择_第5张图片

微调的好处

  • 提高模型在特定任务上的性能
  • 提高模型的效率
    • 减少在任务中获得良好性能所需的标记数量
    • 将大型模型的专业知识提炼到一个较小的模型中
  • 通过微调的方式,让大模型变成专家模型

微调实践

提示词prompt、RAG、Agent框架、微调Fine-tuning在实际应用中的落地选择_第6张图片Agent框架

提示词prompt、RAG、Agent框架、微调Fine-tuning在实际应用中的落地选择_第7张图片

Agent中可以增加API模块,即:Agent+Function calling。通常使用这种方式来避免微调。

你可能感兴趣的:(LLM,人工智能,语言模型,prompt)