大数据核心原理与实践专栏
首先说明一下,Sophon人工智能平台有单独的安装包SophonWeb,可独立部署,部署方式同社区版TDH安装方式一样,极为简单。即当TDH平台部署即可,过程参考先前博文。
但是现在,如果我们生产环境中已经部署好TDH大数据平台,现在又想用Sophon人工智能平台,这时就需要手动上架Sophon应用了。因为SophonWeb收费,我们可以先安装TDH社区版,再手动上架Sophon即可。部署TDH(Transwarp Data Hub)商业大数据平台教程可参考如下博文:
搭建TDH商业大数据平台社区版(附其他主流商业大数据平台下载汇总)
# 查看CPU、内存、硬盘
cat /proc/cpuinfo |grep "model name" && cat /proc/cpuinfo |grep "physical id"
cat /proc/meminfo |grep MemTotal
fdisk -l |grep Disk
tar zxvf sophon-1.3-transwarp-5.1.tar.gz -C /var/lib/transwarp-manager/master/content/meta/services/SOPHON/
# 加载需要的镜像
docker load -i sophon-1.3-transwarp-5.1.img
sophon-redis-transwarp-5.1.img
# 查看已有镜像
docker images
可以看到我们需要的两个镜像已被加载,这时我们需要将镜像的Tag改为当前TDH版本,(这里改为transwarp-5.1.2-final),以方便TDH平台对Sophon进行统一管理。
我们记下需要更改 Tag 的镜像ID,IMAGE ID,以上为 72de04cd4fe0、4fa67bc655ef。
# 修改tag
docker tag 72de04cd4fe0 {
$yourIP}:5000/transwarp/sophon-web:transwarp-5.1.2-final
docker tag 4fa67bc655ef {
$yourIP}:5000/transwarp/sophon-redis:transwarp-5.1.2-final
可以看到 Tag 已经改好,下面直接 push 上传镜像即可:
docker push {
$yourIP}:5000/transwarp/sophon-web:transwarp-5.1.2-final
docker push {
$yourIP}:5000/transwarp/sophon-redis:transwarp-5.1.2-final
如果在第一步解压出的配置文件目录与当前TDH平台的 Tag 一致,那么可以直接跳过这一步,如果不一致,直接将配置文件目录改为当前 Tag ,再将里面所有的版本信息都更正过来即可。
# 键入配置文件目录
cd /var/lib/transwarp-manager/master/content/meta/services/SOPHON/
# 更改配置文件目录
mv transwarp-x.x.x-final transwarp-y.y.y-final
cd transwarp-y.y.y-final
# 替换操作
sed -i "s/transwarp-x.x.x-final/transwarp-y.y.y-final/g" conf1.yaml
sed -i "s/transwarp-x.x.x-final/transwarp-y.y.y-final/g" conf2.yaml
...
sed -i "s/transwarp-x.x.x-final/transwarp-y.y.y-final/g" confn.yaml
上架好后,在 Master 主节点重启 Manager (可视化集群管理8180界面) 即可:
/etc/init.d/transwarp-manager restart
至此,Sophon应用上架完成,我们便可以在 TDH 大数据平台中使用可拖拽式人工智能平台 Sophon 了。
但是如果我们需要对之后 Sophon 训练出来的模型进行 API 部署,我们还需要上架 Kong 服务,如果需要对训练模型工作流部署,我们还需要上架 WorkFlow。一般情况用不上,我们可以就此结束。
在 yarn image 中添加 Sophon 依赖包:
执行 pip3 install ,之后 commit 并 push image:
pip3 install numpy-1.14.2-cp35-cp35m-linux_x86_64.whl
...
需要的镜像、配置文件:
配置文件解压路径:
/var/lib/transwarp-manager/master/content/meta/services/KONG/
加载镜像、更改 Tag 、push 镜像、更改配置文件版本信息、重启 Manager 等操作同上。
需要的镜像:
无需配置文件,加载镜像、更改 Tag 、push 镜像,重启 Manager ,登录即可安装 WorkFlow 服务。
至此便完成了基于 TDH 大数据平台安装 Sophon 人工智能平台操作。后面直接在 Manager 上安装 Sophon 即可: