ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频...

收录于合集

#提示工程1个

#ChatGPT10个

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第1张图片

提示工程是一门相对较新的学科,用于开发和优化提示,以有效地将语言模型(LM)用于各种应用和研究主题。提示工程技能有助于更好地理解大型语言模型(LLM)的能力和局限性。

研究人员使用prompt engineering来提高LLM在广泛的常见和复杂任务上的能力,如问答和算术推理。开发人员使用提示工程来设计与LLM和其他工具交互的健壮和有效的提示技术。

提示工程不仅仅是设计和开发提示。它包含了对与LLM交互和开发有用的广泛技能和技术。这是接口、构建和理解llm功能的一项重要技能。您可以使用prompt engineering来提高llm的安全性并构建新的功能,例如用领域知识和外部工具增强LLM。

由于对与LLM一起开发的高度兴趣,我们创建了这个新的prompt工程指南,其中包含所有最新的论文、学习指南、模型、讲座、参考资料、新的LLM功能和与prompt工程相关的工具。

视频:

地址:https://github.com/dair-ai/Prompt-Engineering-Guide

1. 引言

提示工程是一门相对较新的学科,用于开发和优化提示,以有效地将语言模型(LM)用于各种应用和研究主题。提示工程技能有助于更好地理解大型语言模型(LLM)的能力和局限性。研究人员使用prompt engineering来提高LLM在广泛的常见和复杂任务上的能力,如问答和算术推理。开发人员使用提示工程来设计与LLM和其他工具交互的鲁棒和有效的提示技术。

本指南涵盖了提示的基础知识,对如何使用提示来交互和指示大型语言模型(LLM)提供了一个粗略的想法。

LLM设置

在处理提示时,您将通过API或直接与LLM交互。您可以配置一些参数以获得不同的提示结果。

Temperature ——简而言之,Temperature 越低,结果越确定,因为总是选择可能性最高的下一个token。升高的Temperature可能导致更多的随机性,鼓励更多多样化或创造性的输出。我们实际上是在增加其他可能token的权重。在应用方面,我们可能希望对基于事实的QA等任务使用较低的Temperature,以鼓励更事实和更简洁的回答。对于诗歌生成或其他创造性任务,提高Temperature可能是有益的。

Top_p -类似地,使用Top_p(一种称为核采样的Temperature采样技术),您可以控制模型生成响应的确定性程度。如果你正在寻找准确和事实的答案,请保持这个数字较低。如果您正在寻找更多样化的响应,请增加到更高的值。

一般的建议是改变其中一个,而不是两个都改变。

在开始使用一些基本示例之前,请记住,您的结果可能会因您使用的LLM版本而有所不同。

提示的基础知识

提示的元素

随着我们介绍提示工程可能提供的越来越多的示例和应用程序,您将注意到有一些组成提示的元素。

提示(prompt)可以包含以下任何一个组件。

  • 指令(Instruction):希望模型执行的特定任务或指令

  • 上下文 context 

    ——可以包含外部信息或额外的上下文,这些信息可以引导模型做出更好的响应

  • 输入数据——是我们感兴趣的输入或问题

  • 输出指示器 Indicator :表示输出的类型或格式。

提示并不需要所有组件,其格式取决于当前的任务。我们将在接下来的指南中接触到更多具体的例子。

设计提示的一般技巧

提示示例

在前一节中,我们介绍并给出了如何提示LLMs的基本示例。

在本节中,我们将提供更多示例,说明如何使用提示来实现不同的任务,并介绍其中的关键概念。通常,学习概念的最好方法是通过示例。下面我们将介绍几个示例,说明如何使用精心设计的提示来执行不同类型的任务。

主题:

  • 文本摘要

  • 信息提取

  • 问题回答

  • 文本分类

  • 谈话

  • 代码生成

  • 推理

2. 提示技术

在这一点上,很明显,改进提示有助于在不同的任务上获得更好的结果。这就是prompt engineering背后的全部思想。

虽然基本的例子很有趣,但在本节中,我们将介绍更高级的提示工程技术,使我们能够实现更复杂和有趣的任务。

  • Zero-shot Prompting 

  • Few-shot Prompting 

  • Chain-of-Thought Prompting 

  • Self-Consistency 

  • Generate Knowledge Prompting 

  • Automatic Prompt Engineer 

  • Active-Prompt 

  • Directional Stimulus Prompting 

  • ReAct 

  • Multimodal CoT 

  • Graph Prompting

3. 提示应用

  • Program-Aided Language Models

  • Generating Data

4. 模型

  • ChatGPT

在本节中,我们将介绍ChatGPT的最新提示工程技术,包括提示、应用、限制、论文和额外的阅读材料。

主题:

    • ChatGPT介绍

    • 回顾对话任务与ChatGPT的对话

    • Python的笔记本

ChatGPT是OpenAI训练的一种可以进行对话交互的新模型。该模型被训练成遵循提示中的指示,在对话的上下文中提供适当的响应。ChatGPT可以帮助回答问题、建议食谱、以某种风格写歌词、生成代码等等。

ChatGPT使用来自人类反馈的强化学习(RLHF)进行训练。虽然这个模型比之前的GPT迭代更有能力(也经过训练以减少有害和不真实的输出),但它仍然有局限性。让我们通过具体的例子来介绍一些功能和限制。

你可以在这里使用ChatGPT的研究预览,但对于下面的示例,我们将使用OpenAI Playground上的聊天模式。

  • GPT-4

在本节中,我们将介绍GPT-4最新的prompt工程技术,包括提示、应用、限制和其他阅读材料。

GPT-4介绍

最近,OpenAI发布了GPT-4,这是一个大型多模态模型,可以接受图像和文本输入并发出文本输出。它在各种专业和学术基准上实现了人类水平的表现。

书册:

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第2张图片

课件:

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第3张图片

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第4张图片

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第5张图片

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第6张图片

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第7张图片

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第8张图片

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第9张图片

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第10张图片

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第11张图片

专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复或发消息“PECG” 就可以获取《ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频》专知下载链接

b13564a450cc9e6dd509acf000f119a6.gif

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第12张图片

欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第13张图片

点击“阅读原文”,了解使用专知,查看获取100000+AI主题知识资料

阅读原文

阅读 1767

分享收藏

43

分享此内容的人还喜欢

复旦邱锡鹏:深度剖析 ChatGPT 类大语言模型的关键技术

1个朋友收藏

AI科技大本营

不喜欢

不看的原因

确定

  • 内容质量低

  • 不看此公众号

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第14张图片

奖金100W+,在这个AI竞赛里创造属于你的高光时刻吧!

39个朋友关注

李rumor

不喜欢

不看的原因

确定

  • 内容质量低

  • 不看此公众号

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第15张图片

扩散模型大杀器 ControlNet 解析

GiantPandaCV

不喜欢

不看的原因

确定

  • 内容质量低

  • 不看此公众号

ChatGPT中的提示工程(Prompt)怎么做?DAIR.AI最新《提示工程指南》,全面讲述提示技术,附书册课件视频..._第16张图片

发消息

你可能感兴趣的:(人工智能,chatgpt,深度学习,自然语言处理,神经网络)