Agent的实现基本上有两个步骤:
重复这些步骤,直到生成最终响应。
langchain中AgentExecutor本质上就是实现了这样一个循环,但当我们实际使用时会发现,当前langchain Agent的实现属于黑盒状态,缺乏扩展性。在实践中通常需要更多的控制。可能希望始终强制代理首先调用特定工具。可能希望更好地控制工具的调用方式。可能希望代理有不同的提示等等。
状态机
以实现最简单的react Agent逻辑介绍langGraph的相关功能。
StateGraph是一个表示图形的类。通过传入状态定义来初始化该类。此状态定义表示随时间更新的中心状态对象。此状态由图中的节点更新,这些节点将操作返回到此状态的属性(以键值存储的形式)。
此状态的属性可以通过两种方式更新。首先,可以完全重写属性。如果希望节点返回属性的新值,这将非常有用。其次,可以通过添加属性的值来更新属性。如果属性是所采取的操作列表(或类似的东西),并且您希望节点返回所采取的新操作(并将这些操作自动添加到属性中),则这很有用。
创建StateGraph之后,您可以使用graph.add_node(name, value)
添加节点。name参数应该是一个字符串,我们将在添加边时使用它来引用节点。value参数应该是一个函数或将被调用的LCEL可运行程序。这个函数/LCEL应该接受与State对象相同形式的字典作为输入,并输出一个包含要更新的State对象的键的字典。
还有一个特殊的END节点,用于表示图的结束。重要的是你的周期最终能够结束!
graph.add_node("model", model)
graph.add_node("tools", tool_executor)
from langgraph.graph import END
这是将图的起点连接到特定节点的边。这将使该节点成为输入传递到图形时第一个调用的节点。伪代码是:
graph.set_entry_point("model")
在这些边上,一个节点应该始终在另一个节点之后被调用。这方面的一个例子可能是在基本代理运行时中,我们总是希望在调用工具之后调用模型。
graph.add_edge("tools", "model")
在这些节点中,使用一个函数(通常由LLM提供支持)来确定首先转到哪个节点。要创建这条边,你需要传入三样东西:
上游节点:将查看该节点的输出,以确定下一步要做什么
函数:将调用该函数以确定下一步调用哪个节点。它应该返回一个字符串
映射:此映射将用于将(2)中的函数的输出映射到另一个节点。键应该是(2)中的函数可能返回的值。这些值应该是返回该值时要转到的节点的名称。
一个例子是,在调用模型后,我们要么退出图表并返回给用户,要么调用一个工具 - 取决于用户的决定!请参阅下面的伪代码示例:
graph.add_conditional_edge(
"model",
should_continue,
{
"end": END,
"continue": "tools"
}
)
我们用LangGraph重新创建了标准的LangChain AgentExecutor。这将允许您使用现有的LangChain代理,但允许您更容易地修改AgentExecutor的内部。默认情况下,此图的状态包含您应该熟悉的概念(如果您使用过LangChain代理):input、chat_history、intermediate_steps(以及表示最新代理结果的agent_outcome)
from typing import TypedDict, Annotated, List, Union
from langchain_core.agents import AgentAction, AgentFinish
from langchain_core.messages import BaseMessage
import operator
class AgentState(TypedDict):
input: str
chat_history: list[BaseMessage]
agent_outcome: Union[AgentAction, AgentFinish, None]
intermediate_steps: Annotated[list[tuple[AgentAction, str]], operator.add]
我们看到的一个共同趋势是,越来越多的模型是“聊天”模型,它对消息列表进行操作。这种模型通常配备了函数调用之类的功能,这使得类代理体验更加可行。在使用这些类型的模型时,通常直观地将代理的状态表示为消息列表。
因此,我们创建了一个处理这种状态的代理运行时。输入是一个消息列表,节点只是随着时间的推移向该消息列表添加信息。
from typing import TypedDict, Annotated, Sequence
import operator
from langchain_core.messages import BaseMessage
class AgentState(TypedDict):
messages: Annotated[Sequence[BaseMessage], operator.add]
LangGraph 的一大好处是它以更加自然和可修改的方式公开 AgentExecutor 的逻辑。
我们提供了一些我们收到的修改请求的示例: