LangChain：快速构建自然语言处理应用程序的工具
LangChain：快速构建自然语言处理应用程序的工具
LangChain 是一个用于构建端到端语言模型应用的Python框架。它提供了一系列模块，这些模块可以组合在一起，用于创建复杂的应用程序，也可以单独用于简单的应用程序。在本篇博客中，我们将重点介绍以下几个方面：
- 安装和环境设置
- 构建语言模型应用
- Prompt Templates：管理LLMs的提示
- Chains：组合LLMs和Prompt Templates以进行多步骤工作流
- Agents：根据用户输入动态调用Chains
- Memory：为Chains和Agents添加状态
1. 安装和环境设置
首先，我们需要使用以下命令安装LangChain：
pip install langchain
使用LangChain通常需要与一个或多个模型提供程序、数据存储、API等集成。在本例中，我们将使用OpenAI的API，因此我们首先需要安装他们的SDK：
pip install openai
然后，在终端中设置环境变量：
export OPENAI_API_KEY="..."
或者，可以从Jupyter notebook（或Python脚本）中执行此操作：
import os
os.environ["OPENAI_API_KEY"] = "..."
2. 构建语言模型应用
有了安装的LangChain和设置的环境变量，我们现在可以开始构建语言模型应用了。LangChain提供了许多模块，用于构建语言模型应用。这些模块可以组合在一起，用于创建复杂的应用程序，也可以单独用于简单的应用程序。
LLMs：从语言模型获取预测
LangChain的最基本的构建块是在一些输入上调用LLM。让我们通过一个简单的例子来演示如何实现这一点。为此，让我们假装我们正在构建一个服务，根据公司的产品生成公司名称。
首先，我们需要导入LLM包装器：
from langchain.llms import OpenAI
然后，我们可以使用任何参数初始化包装器。在这个例子中，我们可能希望输出更随机，因此我们将使用高temperature进行初始化：
llm = OpenAI(temperature=0.9)
现在我们可以在一些输入上调用它！
text = "What would be a good company name for a company that makes colorful socks?"
print(llm(text))
3. Prompt Templates：管理LLMs的提示
调用LLM是一个很好的第一步，但这只是个开始。通常，在应用程序中使用LLM时，不会直接将用户输入直接发送到LLM。相反，你可能会获取用户输入并构造一个提示，然后将提示发送到LLM中。
例如，在上一个例子中，我们传递的文本是硬编码的，要求为制造彩色袜子的公司取一个名称。在这个想象的服务中，我们想要做的是仅取用户描述公司所做的事情，然后使用该信息格式化提示。
使用LangChain可以轻松实现这一点！
首先定义提示模板：
from langchain.prompts import PromptTemplate
prompt = PromptTemplate(
input_variables=["product"],
template="What is a good name for a company that makes {product}?",
)
现在我们来看看它是如何工作的！我们可以调用.format方法进行格式化。
print(prompt.format(product="colorful socks"))
4. Chains：将LLMs和Prompts结合在多步骤工作流中
到目前为止，我们已经单独使用Prompt Template和LLM基元。但是，一个真正的应用程序不仅仅是一个原语，而是由它们的组合构成的。
在LangChain中，一个链由链接组成，这些链接可以是LLM、Prompt Template或其他链。
LLMChain是最核心的链类型，它由Prompt Template和LLM组成。
扩展上一个例子，我们可以构建一个LLMChain，该链接受用户输入，使用Prompt Template格式化它，然后将格式化的响应传递给LLM。
from langchain.prompts import PromptTemplate
from langchain.llms import OpenAI
llm = OpenAI(temperature=0.9)
prompt = PromptTemplate(
input_variables=["product"],
template="What is a good name for a company that makes {product}?",
)
我们现在可以创建一个非常简单的链，该链将获取用户输入，使用Prompt Template对其进行格式化，然后将其发送到LLM：
from langchain.chains import LLMChain
chain = LLMChain(llm=llm, prompt=prompt)
现在我们可以运行该链，只需指定产品即可！
chain.run("colorful socks")
# -> '\n\nSocktastic!'
5. Agents：根据用户输入动态调用Chains
到目前为止，我们已经看到的链都是按照预定顺序运行的。Agents不再如此：它们使用LLM确定要采取的动作及其顺序。一个动作可以是使用工具并观察其输出，或者返回给用户。
如果正确使用Agents，它们可以非常强大。在本教程中，我们通过最简单、最高级别的API向你展示如何轻松使用代理。
为了加载代理，你应该了解以下概念：
Tool: 执行特定任务的功能。这可以是类似Google搜索、数据库查找、Python REPL、其他链的东西。工具的接口目前是期望有一个字符串作为输入，输出一个字符串的函数。
LLM: 驱动代理的语言模型。
Agent: 要使用的代理。这应该是引用支持代理类的字符串。因为本笔记本专注于最简单、最高级别的API，所以仅涵盖使用标准支持的代理。如果要实现自定义代理，请参见自定义代理的文档（即将推出）。
代理: 支持的代理及其规格的列表，请参见此处。
工具: 预定义工具及其规格的列表，请参见此处。
对于此示例，你还需要安装SerpAPI Python包。
pip install google-search-results
并设置适当的环境变量。
import os
os.environ["SERPAPI_API_KEY"] = "..."
现在我们可以开始！
from langchain.agents import load_tools
from langchain.agents import initialize_agent
from langchain.llms import OpenAI
# 首先，让我们加载我们要用来控制代理的语言模型。
llm = OpenAI(temperature=0)
# 接下来，让我们加载一些要使用的工具。请注意，`llm-math`工具使用LLM，因此我们需要将其传递给它。
tools = load_tools(["serpapi", "llm-math"], llm=llm)
# 最后，让我们使用工具、语言模型和我们想要使用的代理类型来初始化一个代理。
agent = initialize_agent(tools, llm, agent="zero-shot-react-description", verbose=True)
# 现在让我们测试一下！
agent.run("Who is Olivia Wilde's boyfriend? What is his current age raised to the 0.23 power?")
Entering new AgentExecutor chain...
I need to find out who Olivia Wilde's boyfriend is and then calculate his age raised to the 0.23 power.
Action: Search
Action Input: "Olivia Wilde boyfriend"
Observation: Jason Sudeikis
Thought: I need to find out Jason Sudeikis' age
Action: Search
Action Input: "Jason Sudeikis age"
Observation: 47 years
Thought: I need to calculate 47 raised to the 0.23 power
Action: Calculator
Action Input: 47^0.23
Observation: Answer: 2.4242784855673896
Thought: I now know the final answer
Final Answer: Jason Sudeikis, Olivia Wilde's boyfriend, is 47 years old and his age raised to the 0.23 power is 2.4242784855673896.
> Finished AgentExecutor chain.
"Jason Sudeikis, Olivia Wilde's boyfriend, is 47 years old and his age raised to the 0.23 power is 2.4242784855673896."
6. Memory：向链和代理添加状态
到目前为止，我们所讨论的所有链和代理都是无状态的。但通常，你可能希望链或代理具有一些“记忆”概念，以便它们可以记住有关其先前交互的信息。
这是在设计聊天机器人时最明显和简单的例子-你希望它记住以前的消息，以便它可以使用上下文来进行更好的对话。这将是一种“短期记忆”。在更复杂的一面，你可以想象链/代理随时间记住关键信息-这将是一种“长期记忆”。关于后者的更具体想法，请参见此出色的论文。
LangChain提供了几个专门为此目的创建的链。本笔记本介绍了使用其中一个链（ConversationChain）的两种不同类型的内存。
默认情况下，ConversationChain具有一种简单类型的内存，该内存记住所有先前的输入/输出并将它们添加到传递的上下文中。让我们看看如何使用此链（将verbose=True设置为我们可以看到提示）。
from langchain import OpenAI, ConversationChain
llm = OpenAI(temperature=0)
conversation = ConversationChain(llm=llm, verbose=True)
conversation.predict(input="Hi there!")
> Entering new chain...
Prompt after formatting:
The following is a friendly conversation between a human and an AI. The AI is talkative and provides lots of specific details from its context. If the AI does not know the answer to a question, it truthfully says it does not know.
Current conversation:
Human: Hi there!
AI:
> Finished chain.
' Hello! How are you today?'
conversation.predict(input="I'm doing well! Just having a conversation with an AI.")
> Entering new chain...
Prompt after formatting:
The following is a friendly conversation between a human and an AI. The AI is talkative and provides lots of specific details from its context. If the AI does not know the answer to a question, it truthfully says it does not know.
Current conversation:
Human: Hi there!
AI: Hello! How are you today?
Human: I'm doing well! Just having a conversation with an AI.
AI:
> Finished chain.
" That's great! What would you like to talk about?"