DataSphere Studio- 1.1.1 安装部署(自动化脚本)

DSS+Linkis Ansible一键安装脚本

DSS1.1.1 & Linkis 1.3.0 Ansible 一键部署脚本

作者:wubolive

Q Q:1049635685

邮箱:[email protected]

Github:https://github.com/wubolive/dss-linkis-ansible

一、简介

为解决繁琐的部署流程,简化安装步骤,本脚本提供一键安装最新版本的DSS+Linkis环境;部署包中的软件采用我自己编译的安装包,并且为最新版本:DSS1.1.1 + Linkis1.3.0

1.1 版本介绍

以下版本及配置信息可参考安装程序hosts文件中的[all:vars]字段。

软件名称 软件版本 应用路径 测试/连接命令
MySQL mysql-5.6 /usr/local/mysql mysql -h 127.0.0.1 -uroot [email protected]
JDK jdk1.8.0_171 /usr/local/java java -version
Python python 2.7.5 /usr/lib64/python2.7 python -V
Nginx nginx/1.20.1 /etc/nginx nginx -t
Hadoop hadoop-2.7.2 /opt/hadoop hdfs dfs -ls /
Hive hive-2.3.3 /opt/hive hive -e “show databases”
Spark spark-2.4.3 /opt/spark spark-sql -e “show databases”
dss dss-1.1.1 /home/hadoop/dss http://<服务器IP>:8085
links linkis-1.3.0 /home/hadoop/linkis http://<服务器IP>:8188
zookeeper 3.4.6 /usr/local/zookeeper
DolphinScheduler 1.3.9 /opt/dolphinscheduler http://<服务器IP>:12345/dolphinscheduler
Visualis 1.0.0 /opt/visualis-server http://<服务器IP>:9088
Qualitis 0.9.2 /opt/qualitis http://<服务器IP>:8090
Streamis 0.2.0 /opt/streamis http://<服务器IP>:9188
Soop 1.4.6 /opt/sqoop sqoop
Exchangis 1.0.0 /opt/exchangis http://<服务器IP>:8028

二、部署前注意事项

要求

  • 本脚本仅在CentOS 7系统上测试过,请确保安装的服务器为CentOS 7
  • 安装前请关闭服务器防火墙及SElinux,并使用root用户进行操作。
  • 安装服务器必须通畅的访问互联网,脚本需要yum下载一些基础软件。
  • 保证服务器未安装任何软件,包括不限于javamysqlnginx等,最好是全新系统。
  • 必须保证服务器除lo:127.0.0.1回环地址外,仅只有一个IP地址,可使用echo $(hostname -I)命令测试。
### 查看磁盘

fdisk -l

### 格式化磁盘,后面的盘符注意对应关系

mkfs.ext4 /dev/vdb

### 新建文件夹

mkdir /vdb

### 挂载磁盘

echo "/dev/vdb /vdb ext4 defaults 0 0" >> /etc/fstab

### 重新挂载所有分区

mount -a

### 检查

df -h

三、部署方法

本案例部署主机IP为192.168.1.52,以下步骤请按照自己实际情况更改。

3.1 安装前设置

### 安装ansible
yum -y install epel-release
yum -y install ansible


# ansible中遗漏了安装lsof,可以手动安装:
yum -y install lsof


### 配置免密
ssh-keygen -t rsa
ssh-copy-id [email protected]


### 关闭防火墙及SELinux
systemctl stop firewalld.service && systemctl disable firewalld.service
sed -i 's/^SELINUX=enforcing$/SELINUX=disabled/' /etc/selinux/config && setenforce 0

3.2 部署linkis+dss

### 解压安装包
$ tar zxvf dss-linkis-ansible.tar.gz
$ cd dss-linkis-ansible
# 目录说明
dss-linkis-ansible
├── ansible.cfg    # ansible 配置文件
├── hosts          # hosts主机及变量配置
├── playbooks      # playbooks剧本
├── README.md      # 说明文档 即本文档
└── roles          # 角色配置




### 配置部署主机(注:ansible_ssh_host的值不能设置127.0.0.1)
 vim hosts
[deploy]
dss-service ansible_ssh_host=10.0.15.2 ansible_ssh_port=22

### 下载安装包到download目录(如果下载失败,可以手动下载放到该目录)
ansible-playbook playbooks/download.yml

# 一键安装Linkis+DSS
 ansible-playbook playbooks/all.yml


......
TASK [dss : 打印访问信息] *****************************************************************************************
ok: [dss-service] => {
    "msg": [
        "*****************************************************************", 
        "              访问 http://192.168.1.52 查看访问信息                 ", 
        "*****************************************************************"
    ]
}

执行结束后,即可访问:http://192.168.1.52 查看信息页面,上面记录了所有服务的访问地址及账号密码。

DataSphere Studio- 1.1.1 安装部署(自动化脚本)_第1张图片

3.3 部署其它服务

# 安装dolphinscheduler
$ ansible-playbook playbooks/dolphinscheduler.yml
### 注: 安装以下服务必须优先安装dolphinscheduler调度系统
# 安装visualis
$ ansible-playbook playbooks/visualis.yml 
# 安装qualitis
$ ansible-playbook playbooks/qualitis.yml
# 安装streamis
$ ansible-playbook playbooks/streamis.yml
# 安装exchangis
$ ansible-playbook playbooks/exchangis.yml
### 查看实时日志
$ su - hadoop
$ tail -f ~/linkis/logs/*.log ~/dss/logs/*.log

### 启动服务(如服务器重启可使用此命令一建启动)
$ ansible-playbook playbooks/all.yml -t restart
# 启动其它服务
$ sh /usr/local/zookeeper/bin/zkServer.sh start
$ su - hadoop
$ cd /opt/dolphinscheduler/bin &&  sh start-all.sh 
$ cd /opt/visualis-server/bin && sh start-visualis-server.sh
$ cd /opt/qualitis/bin/ && sh start.sh
$ cd /opt/streamis/streamis-server/bin/ && sh start-streamis-server.sh
$ cd /opt/exchangis/sbin/ && ./daemon.sh start server

DataSphere Studio- 1.1.1 安装部署(自动化脚本)_第2张图片

你可能感兴趣的:(大数据技术,自动化,运维)