LangGraph基础理解

文章目录

  • 动机
  • 功能
    • StateGraph
    • Nodes
    • Edges
      • 起始边
      • 正常边
      • 条件边
  • Agent Executor
  • Chat Agent Executor
  • Modifications

本文对LangGraph博客内容做下简单总结,详细内容请查看langchain博客
https://blog.langchain.dev/langgraph/

动机

Agent的实现基本上有两个步骤:

  • 调用LLM来决定(a)采取什么行动,或(b)向用户提供什么响应
  • 采取给定的行动,然后回到步骤1

重复这些步骤,直到生成最终响应。

langchain中AgentExecutor本质上就是实现了这样一个循环,但当我们实际使用时会发现,当前langchain Agent的实现属于黑盒状态,缺乏扩展性。在实践中通常需要更多的控制。可能希望始终强制代理首先调用特定工具。可能希望更好地控制工具的调用方式。可能希望代理有不同的提示等等。

状态机

功能

以实现最简单的react Agent逻辑介绍langGraph的相关功能。

StateGraph

StateGraph是一个表示图形的类。通过传入状态定义来初始化该类。此状态定义表示随时间更新的中心状态对象。此状态由图中的节点更新,这些节点将操作返回到此状态的属性(以键值存储的形式)。

此状态的属性可以通过两种方式更新。首先,可以完全重写属性。如果希望节点返回属性的新值,这将非常有用。其次,可以通过添加属性的值来更新属性。如果属性是所采取的操作列表(或类似的东西),并且您希望节点返回所采取的新操作(并将这些操作自动添加到属性中),则这很有用。

Nodes

创建StateGraph之后,您可以使用graph.add_node(name, value)添加节点。name参数应该是一个字符串,我们将在添加边时使用它来引用节点。value参数应该是一个函数或将被调用的LCEL可运行程序。这个函数/LCEL应该接受与State对象相同形式的字典作为输入,并输出一个包含要更新的State对象的键的字典。

还有一个特殊的END节点,用于表示图的结束。重要的是你的周期最终能够结束!

graph.add_node("model", model)
graph.add_node("tools", tool_executor)
from langgraph.graph import END

Edges

起始边

这是将图的起点连接到特定节点的边。这将使该节点成为输入传递到图形时第一个调用的节点。伪代码是:

graph.set_entry_point("model")

正常边

在这些边上,一个节点应该始终在另一个节点之后被调用。这方面的一个例子可能是在基本代理运行时中,我们总是希望在调用工具之后调用模型。

graph.add_edge("tools", "model")

条件边

在这些节点中,使用一个函数(通常由LLM提供支持)来确定首先转到哪个节点。要创建这条边,你需要传入三样东西:

上游节点:将查看该节点的输出,以确定下一步要做什么
函数:将调用该函数以确定下一步调用哪个节点。它应该返回一个字符串
映射:此映射将用于将(2)中的函数的输出映射到另一个节点。键应该是(2)中的函数可能返回的值。这些值应该是返回该值时要转到的节点的名称。

一个例子是,在调用模型后,我们要么退出图表并返回给用户,要么调用一个工具 - 取决于用户的决定!请参阅下面的伪代码示例:

graph.add_conditional_edge(
    "model",
    should_continue,
    {
        "end": END,
        "continue": "tools"
    }
)

Agent Executor

我们用LangGraph重新创建了标准的LangChain AgentExecutor。这将允许您使用现有的LangChain代理,但允许您更容易地修改AgentExecutor的内部。默认情况下,此图的状态包含您应该熟悉的概念(如果您使用过LangChain代理):input、chat_history、intermediate_steps(以及表示最新代理结果的agent_outcome)

from typing import TypedDict, Annotated, List, Union
from langchain_core.agents import AgentAction, AgentFinish
from langchain_core.messages import BaseMessage
import operator

class AgentState(TypedDict):
   input: str
   chat_history: list[BaseMessage]
   agent_outcome: Union[AgentAction, AgentFinish, None]
   intermediate_steps: Annotated[list[tuple[AgentAction, str]], operator.add]

Chat Agent Executor

我们看到的一个共同趋势是,越来越多的模型是“聊天”模型,它对消息列表进行操作。这种模型通常配备了函数调用之类的功能,这使得类代理体验更加可行。在使用这些类型的模型时,通常直观地将代理的状态表示为消息列表。

因此,我们创建了一个处理这种状态的代理运行时。输入是一个消息列表,节点只是随着时间的推移向该消息列表添加信息。

from typing import TypedDict, Annotated, Sequence
import operator
from langchain_core.messages import BaseMessage

class AgentState(TypedDict):
    messages: Annotated[Sequence[BaseMessage], operator.add]

Modifications

LangGraph 的一大好处是它以更加自然和可修改的方式公开 AgentExecutor 的逻辑。

我们提供了一些我们收到的修改请求的示例:

  • 强制调用工具
  • 如何在调用工具之前添加人机交互步骤。
  • 用于添加有关如何处理代理可能采取的中间步骤的自定义逻辑(对于有很多步骤时很有用)。
  • 以特定格式返回输出 直接动态返回工具的输出

你可能感兴趣的:(LLM,笔记,langchain)