第三章迭代优化当使用LLM构建应用程序时，实践层面上很难第一次尝试就成功获得适合最终应用的Prompt。但这并不重要，只要您有一个好的迭代过程来不断改进您的Prompt，那么您就能够得到一个适合任务的Prompt。虽然相比训练机器学习模型，在Prompt方面一次成功的几率可能会高一些，但正如上所说，Prompt是否一次完善并不重要。最重要的是层层迭代为您的应用程序找到有效Prompt的过程。因此在

第二章编写提示词原则一、环境配置开始学习前，我们用最简单的方案使用LLM（这里我们使用ChatGPT最为我们调用的LLM）。所以我们使用Java版的SDK（第三方库）你也可以参考官方文档,看看都有哪些内容。自己的项目中引入SDKcom.theokanning.openai-gpt3-javaservice0.14.0最简单的情况下，我们只要调用方法（调用了GPT接口）即可完成很惊人的"文本生成"功

第七章，检查结果在本章中，我们将重点如何检查系统生成的输出。在向用户展示输出之前，检查输出的质量、相关性和安全性对于确保提供的回应非常重要，无论是在自动化流程中还是其他场景中。我们将学习如何使用审查API来评估输出，并探讨如何使用额外的Prompt来提升模型在展示输出之前的质量评估。一，环境配置参考第二章的环境配置小节内容即可。二，检查输出是否有潜在的有害内容主要就是ModerationAPI的使

第八章，搭建一个带评估的端到端问答系统在本章中，我们将搭建一个带评估的端到端问答系统，这个系统综合了之前多节课的内容，并加入了评估过程。检查输入，确认其是否能通过审核API的审核。如果通过了审核，我们将查找产品列表。如果找到了产品，我们将尝试查找它们的相关信息。我们使用模型回答用户提出的问题。我们将通过审核API对生成的答案进行审核。如果没有被标记为有害的，我们将把答案返回给用户。一，环境配置参考

简介欢迎来到课程《使用ChatGPTAPI搭建系统》,旨在指导开发者如何基于ChatGPT搭建完整的智能问答系统。使用ChatGPT不仅仅是一个单一的Prompt或单一的模型调用，本课程将分享使用LLM构建复杂应用的最佳实践。本课程以构建客服助手为例，使用不同的Prompt链式调用语言模型，具体的Prompt选择将取决于上一次调用的输出结果，有时还需要从外部来源查找信息。本课程将围绕该主题，逐步了

第二章语言模型，提问范式与Token在本章中，我们将和您分享大型语言模型（LLM）的工作原理、训练方式以及分词器（tokenizer）等细节对LLM输出的影响。我们还将介绍LLM的提问范式（chatformat），这是一种指定系统消息（systemmessage）和用户消息（usermessage）的方式，让您了解如何利用这种能力。一，环境配置Helperfunction辅助函数。如果之前曾参加过

第六章，处理输入-链式PromptChainingPrompts在本章中，我们将学习如何通过将复杂任务拆分为一系列简单的子任务来链接多个Prompt。您可能会想，为什么要将任务拆分为多个Prompt，而不是像我们在上一个视频中学习的那样，使用思维链推理一次性完成呢？我们已经证明了语言模型非常擅长遵循复杂的指令，特别是像GPT-4这样的高级模型。那么让我们用两个比喻来解释为什么我们要这样做，来比较思

第五章，处理输入-思维链推理在本章中，我们将专注于处理输入，即通过一系列步骤生成有用地输出。有时，模型在回答特定问题之前需要进行详细地推理。如果您参加过我们之前的课程，您将看到许多这样的例子。有时，模型可能会因为过于匆忙得出结论而在推理过程中出错。因此，我们可以重新构思查询，要求模型在给出最终答案之前提供一系列相关的推理步骤，这样它就可以更长时间、更深入地思考问题。通常，我们称这种要求模型逐步推理

第三章评估输入-分类在本章中，我们将重点讨论评估输入任务，这对于确保系统的质量和安全性至关重要。对于需要处理不同情况下的许多独立指令集的任务，首先对查询类型进行分类，并以此为基础确定要使用哪些指令，具有诸多益处。这可以通过定义固定的类别和hard-coding与处理给定类别任务相关的指令来实现。例如，在构建客户服务助手时，首先对查询类型进行分类，然后根据该分类确定要使用哪些指令，这一点可能非常重要

第十一章，用ChatGPTAPI构建系统总结篇本课程详细介绍了LLM工作原理，包括分词器（tokenizer）的细节、评估用户输入的质量和安全性的方法、使用思维链作为Prompt、通过链式Prompt分割任务以及返回用户前检查输出等。本课程还介绍了评估系统的长期性能，以监控和改进表现的方法。此外，课程也涉及到如何构建负责任的系统，以保证模型提供合理且相关的反馈。Java快速转换到大模型开发：配套课

第九章，评估（上）-存在一个简单的正确答案时在之前的章节中，我们展示了如何使用LLM构建应用程序，包括评估输入、处理输入以及在向用户显示输出之前进行最终输出检查。构建这样的系统后，如何知道它的工作情况？甚至在部署后并让用户使用它时，如何跟踪它的运行情况，发现任何缺陷，并持续改进系统的答案质量？在本章中，我们想与您分享一些最佳实践，用于评估LLM的输出。构建基于LLM的应用程序与传统的监督学习应用程

第十章，评估（下）-当不存在一个简单的正确答案时在上一章中，了解了如何评估LLM模型在有明确正确答案的情况下的输出，我们可以编写一个函数来判断LLM输出是否正确地分类并列出产品。然而，如果LLM用于生成文本，而不仅仅是分类问题的答案呢？接下来，我们将探讨如何评估这种类型的LLM输出的方法。一，环境配置参考第二章的环境配置小节内容即可。二，运行问答系统获得一个复杂回答Stringdelimiter=

第三章，评估输入-分类如果您正在构建一个允许用户输入信息的系统，首先要确保人们在负责任地使用系统，以及他们没有试图以某种方式滥用系统，这是非常重要的。在本章中，我们将介绍几种策略来实现这一目标。我们将学习如何使用OpenAI的ModerationAPI来进行内容审查，以及如何使用不同的Prompt来检测Prompt注入（Promptinjections）。环境配置参考第二章的环境配置小节内容即可。

第五章推断推断任务可以看作是模型接收文本作为输入，并执行某种分析的过程。其中涉及提取标签、提取实体、理解文本情感等等。如果你想要从一段文本中提取正面或负面情感，在传统的机器学习工作流程中，需要收集标签数据集、训练模型、确定如何在云端部署模型并进行推断。这样做可能效果还不错，但是执行全流程需要很多工作。而且对于每个任务，如情感分析、提取实体等等，都需要训练和部署单独的模型。LLM的一个非常好的特点是

第四章文本概括当今世界上文本信息浩如烟海，我们很难拥有足够的时间去阅读所有想了解的东西。但欣喜的是，目前LLM在文本概括任务上展现了强大的水准，也已经有不少团队将概括功能实现在多种应用中。本章节将介绍如何使用编程的方式，调用API接口来实现“文本概括”功能。环境配置参考第二章的环境配置小节内容即可。单一文本概括以商品评论的总结任务为例：对于电商平台来说，网站上往往存在着海量的商品评论，这些评论反映

第八章聊天机器人使用一个大型语言模型的一个令人兴奋的事情是，我们可以用它来构建一个定制的聊天机器人(Chatbot)，只需要很少的工作量。在这一节中，我们将探索如何利用聊天的方式，与个性化（或专门针对特定任务或行为的）聊天机器人进行扩展对话。像ChatGPT这样的聊天模型实际上是组装成以一系列消息作为输入，并返回一个模型生成的消息作为输出的。这种聊天格式原本的设计目标是简便多轮对话，但我们通过之前

第七章文本扩展扩展是将短文本（例如一组说明或主题列表）输入到大型语言模型中，让模型生成更长的文本（例如基于某个主题的电子邮件或论文）。这种应用是一把双刃剑，好处例如将大型语言模型用作头脑风暴的伙伴；但也存在问题，例如某人可能会使用它来生成大量垃圾邮件。因此，当你使用大型语言模型的这些功能时，请仅以负责任(responsible)和有益于人们(helpspeople)的方式使用它们。在本章中，你将学

第六章文本转换LLM非常擅长将输入转换成不同的格式，典型应用包括多语种文本翻译、拼写及语法纠正、语气调整、格式转换等。本章节将介绍如何使用编程的方式，调用API接口来实现“文本转换”功能。环境配置参考第二章的环境配置小节内容即可。文本翻译中文转西班牙语Stringprompt="将以下中文翻译成西班牙语:\n"+"```您好，我想订购一个搅拌机。```";Stringmessage=this.ge

Java-langchain:一个Java8+的LangChain实现。在(企业)Java环境中构建强大的基于LLM的应用程序。这里持续连载详细的Java入门的LLM学习课程。