db-gpt安装指南(docker版本)

1 下载源码

下载v0.3.5的源码,截止今天(20230823)建议安装这个“稳定”版本。

2 构建镜像

依照自己硬件环境,看看是否要调整一下启动参数。

bash docker/build_all_images.sh \
--base-image nvidia/cuda:11.7.1-devel-ubuntu20.04 \
--pip-index-url https://pypi.tuna.tsinghua.edu.cn/simple \
--language zh

注释:此时其实是在构建两个镜像。

在构建第二个镜像时,可能会因为要安装tzdata会卡住,如出现此状况请依照如下文章修改docker/allinone/Dockerfile文件:tzdata非交互式安装

然后,再此构建时可将docker/build_all_images.sh改为如下代码,再次运行上面的构建命令。

#!/bin/bash

SCRIPT_LOCATION=$0
cd "$(dirname "$SCRIPT_LOCATION")"
WORK_DIR=$(pwd)


bash $WORK_DIR/allinone/build_image.sh

3 镜像导出和加载

docker save -o images.tar db-gpt-allinone

docker load < images.tar

你可能感兴趣的:(LLM,gpt,docker,容器,db-gpt)