【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT

原文:【教程】本地化部署支持多语言模型支持上传分析文档附件的GPT_腾讯新闻

说明

该项目要是为 ChatGPT API 和其他多种语言模型(Language Language Models,简称 LLM)提供一个用户友好的 Web 图形界面(GUI)。这个项目的 GUI 支持流式传输、无限对话、保存对话、预设 Prompt 集、联网搜索、根据文件回答、渲染 LaTeX、渲染表格、代码高亮、自动亮暗色切换、自适应界面等功能。此外,它还支持自定义 API Host、多参数可调、多 API Key 均衡负载、多用户显示、适配 GPT-4,以及支持本地部署语言模型。在该项目中,可以通过 API 调用以下语言模型:ChatGPT (包括 GPT-4)、Inspur Yuan 1.0、MiniMax、XMChat。同时,它也支持本地部署的语言模型,如 ChatGLM 和 LLaMA 更重要的是它可以支持上传文档附件进行文档分析,本教程将教大家如何本地化部署这个项目

教程

通过docker 部署,docker 的安装方式请参考这个文档

https://doc.weixin.qq.com/doc/w3_ASAAUAZmAAciDAAidcsSfafy4JI9p?scode=ALAA0wclABQg9sHWKHASAAUAZmAAc

然后部署项目,在搜索栏搜索cmd,打开命令行

【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT_第1张图片

输入如下命令,即可

docker run -p 8080:7860 -d  --restart=always  tuchuanhuhuhu/chuanhuchatgpt

【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT_第2张图片

然后我们进行访问,打开你的docker 点击containers 端口号,即可访问

【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT_第3张图片

进入访问界面之后默认是openai gpt-3.5-trubo 模型,填入你的openai api key,api key 的获取方法已经烂大街了,自行搜索即可,如果选其他语言模型也需要填写相应的key

【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT_第4张图片

然后我们来玩一下文档分析功能,先来个pdf,点这里上传

【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT_第5张图片

然后在左侧对话框发送分析指令

【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT_第6张图片

这里还内置了一些提示词

【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT_第7张图片

需要把提示词复制粘贴到对话框

【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT_第8张图片

我们可以把生成得对话保存

【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT_第9张图片

也可以导出为Markdown 格式

【教程】ChuanhuChatGPT本地化部署支持多语言模型支持上传分析文档附件的GPT_第10张图片

你可能感兴趣的:(大模型,chatgpt)