Langchain[6]-LangGraph:异步和流、图可视化、多智能体协作、LCEL代码生成

Langchain[6]-LangGraph:异步和流、图可视化、多智能体协作、LCEL代码生成

1.异步和流

因为任何大模型在推理的时候,都会有一定的时间延迟,这是由大模型的底层架构决定的,所以在很多应用,尤其是对话应用中,使用异步以及流式输出,是大幅提升用户体验的较好方法。

Langchain[6]-LangGraph:异步和流、图可视化、多智能体协作、LCEL代码生成_第1张图片

在langGraph中可以很方便的实现异步和流,简单例子为例:

Langchain[6]-LangGraph:异步和流、图可视化、多智能体协作、LCEL代码生成_第2张图片

  • 异步调用方法:
inputs = {
   "messages"

你可能感兴趣的:(AI,Agent,langchain,AI,Agent,LangGraph,多智能体协作,AI智能体,AI大模型,Agent框架)