Test-Agent----基于Centos7系统部署Test-Agent

【Test-Agent----基于Centos7系统部署Test-Agent】

一、部署 Test-Agent

1.1 环境准备

环境基本信息：Centos7.9操作系统，16核64G+1T硬盘，Python3.9.7

1.2 部署 Test-Agent

（1）安装git-lfs

cd /opt
curl -s https://packagecloud.io/install/repositories/github/git-lfs/script.rpm.sh | sudo bash
yum install -y git-lfs
git lfs install

（2）下载模型文件

cd /opt/
git clone https://www.modelscope.cn/codefuse-ai/TestGPT-7B.git

（3）下载 Test-Agent 源码，并安装依赖

cd /opt
git clone https://github.com/codefuse-ai/Test-Agent
cd Test-Agent
pip3 install -r requirements.txt

（4）启动控制器controller，默认启动端口 21001

cd /opt/Test-Agent
python3 -m chat.server.controller &

（5）启动Worker

cd /opt/Test-Agent
python3 -m chat.server.model_worker --model-path /opt/TestGPT-7B --device cpu &

（6）启动WEB服务

cd /opt/Test-Agent
python3 -m chat.server.gradio_testgpt &

（7）关闭防火墙

systemctl stop firewalld

（8）然后在浏览器打开比如 192.168.116.100:7860，即可打开WEB页面，如下图所示。