部署DB-GPT

踩坑

  • 参考文献
  • 安装环境与模型运行
    • 安装conda环境
    • 下载git-lfs
    • 克隆源码
    • 配置.env文件
    • 加载SQLite的数据
    • 运行DB-GPT
    • 配置sqlite数据库
    • 数据库示例
  • pydantic版本问题
  • bash报错

参考文献

https://zhuanlan.zhihu.com/p/629467580
https://blog.csdn.net/qq_40231723/article/details/133956318

安装环境与模型运行

安装conda环境

首先我们需要安装conda环境,我们使用miniconda3

wget https://repo.anaconda.com/miniconda/Miniconda3-py310_23.3.1-0-Linux-x86_64.sh
sh Miniconda3-py310_23.3.1-0-Linux-x86_64.sh

安装完成之后,需要生效一下环境变量

source /root/.bashrc

conda create -n dbgpt_env python=3.10 
conda activate dbgpt_env

下载git-lfs

下载git-lfs,为了大模型的传输

apt-get install git-lfs

初始化

git lfs install

克隆源码

git clone https://github.com/eosphoros-ai/DB-GPT.git

下载大模型到models目录(huggingface无法访问,使用该镜像网站)

git clone https://www.modelscope.cn/thomas/text2vec-large-chinese.git

git clone https://www.modelscope.cn/ZhipuAI/chatglm2-6b.git

配置.env文件

cd /home/DB-GPT
cp .env.template .env

可以在.env中配置基本参数,例如将LLM_MODEL设置为要使用的模型,LLM_MODEL官方推荐使用vicuna-13b-v1.5。这里我使用的是chatglm2-6b

部署DB-GPT_第1张图片

加载SQLite的数据

bash ./scripts/examples/load_examples.sh

运行DB-GPT

运行db-gpt服务端

python pilot/server/llmserver.py

服务端运行成功图
部署DB-GPT_第2张图片

运行客户端

python pilot/server/dbgpt_server.py

客户端运行成功图,端口5000
部署DB-GPT_第3张图片

浏览器访问
部署DB-GPT_第4张图片

配置sqlite数据库

点击左侧Data Center,再点击sqlite,修改Path
部署DB-GPT_第5张图片

数据库示例

部署DB-GPT_第6张图片
部署DB-GPT_第7张图片
部署DB-GPT_第8张图片
问题1:用中文提问,模型翻译的单词与数据库列名不一致
部署DB-GPT_第9张图片
可见模型把学分翻译为score,而不是credit,导致报错
解决思路:涉及到的表名和列名,用英文输入
部署DB-GPT_第10张图片
问题2:查询总分最高的学生
部署DB-GPT_第11张图片
部署DB-GPT_第12张图片

pydantic版本问题

报错信息:pydantic.errors.PydanticUserError: If you use @root_validator with pre=False (the default) you MUST specify skip_on_failure=True. Note that @root_validator is deprecated and should be replaced with @model_validator.

解决:卸载该版本,下载旧版本

pip uninstall pydantic

pip install pydantic==1.10.5

bash报错

在这里插入图片描述
原因:linux系统换行符出现问题
解决:sed -i 's/\r//g' xxx.sh

你可能感兴趣的:(text2sql,gpt,text2sql,大模型)