吴恩达gradio课程:基于开源LLM(large language model)的聊天应用

文章目录

        • 内容简介
        • 构建应用程序
        • 使用gradio
        • 在线体验
        • 接下来结合llm模型使用gradio
        • 构建一个完整的应用程序

内容简介

  • Falcon 40B是当前最好的开源语言模型之一。
  • 使用text-generation库调用Falcon 40B的问答API接口。
  • 首先仅仅在代码中与模型聊天,后续通过Gradio构建聊天界面。
  • Gradio聊天界面可以保存对话历史上下文。
  • 在聊天过程中,需要将之前对话记录与新消息一起发送给模型,才能进行连续对话。
  • Gradio Chatbot组件可以简化发送历史对话上下文的过程。
  • 通过text-generation库+Gradio Chatbot组件即可实现与开源语言模型的流畅聊天。
  • 本课程使用免费的开源模型构建应用,可以自由自定义。
  • 展示了利用开源模型和Gradio进行快速原型开发和验证的流程。
  • 可以基于本节课 content构建更复杂的聊天机器人应用。

构建应用程序

<

你可能感兴趣的:(python可视化教程,gradio应用,LLM和AIGC,语言模型,windows,人工智能)