DORIS单节点部署

1、背景

最近遇到一个doris写入的功能问题,但是手上没有doris环境,所以想临时搭建一个简单的单节点doris环境使用。一开始还担心虚拟机的配置不够,经过实际安装部署后发现单节点的资源需求并不高,故在此记录下该文章,用于分享给大家以及后续自己的复用。

2、环境准备

1)jdk8:

首先我的虚拟机是安装了jdk8的,这块安装过程就不进行展示了,这个安装很简单,这里我展示下我的jdk版本:

 2)虚拟机的内存信息

安装前:

 安装后:

 可以看到需要的内存也不是很多,有五六百兆基本就够了,但是为了系统运行的流畅性,建议还是尽可能多分配一些内存(这块实际最小内存我没计算过,但是推荐最小分配1G)。

3)cpu

用的虚拟机,cpu统一分配的都是一个核

4)doris版本

apache-doris-1.1.0-bin-x86-jdk8.tar.gz

官网下载地址:下载 - Apache Doris

3、开始安装

1)将下载的安装包上传到虚拟机并解压

tar -zxvf apache-doris-1.1.0-bin-x86-jdk8.tar.gz

DORIS单节点部署_第1张图片

 这里为了和我已有的安装命令保持一致,这里我用mv命令对doris解压后的目录名称更改了一下。

2)FE配置

进入doris下的fe目录,修改其中conf目录下的fe.conf文件(这里修改有两处):
        第一处修改(这个配置的作用我也不懂,是参照官网配置的):
                priority_networks = 192.168.71.0/24
                补充:ip4地址是由网络号和主机号组成,一共32位,这里24表示的是网络号位数是24,具体不知道怎么配的,可以通过ip addr查看自己的网络号位数,然后将网络号之后的主机号值设置为0。比如我的虚拟机信息如下: DORIS单节点部署_第2张图片

 可以看到我的网络号是24,所以我保留了192.168.71,最后8位对应的136我是直接设置为了0。

        第二处修改(端口号):
        因为doris中端口很多,我虚拟机中也部署了很多组件,所以有端口冲突的问题,这个我一开始没注意,也是启动报错才发现的,不过这里我可以先提前提醒大家:

上图是fe启动需要的端口号,其中http_port默认是8030,但是这个端口已经被占用,所以我修改成了8050。大家在部署前可以通过lsof -i:port来看看上面四个端口是不是都没被占用,然后再去启动。

 3)FE启动与验证

后台启动命令是:

        ./bin/start_fe.sh --daemon

但是我建议在初始安装时不要加--daemon,因为不加--daemon,如果有报错,其信息就会直接打印在控制台,方便我们观察,而不用再去找日志文件查阅。等控制台正常启动没问题了,我们可以再通过--daemon的方式进行后台启动(如果重新启动提示fe进程已经存在,则可以通过kill -9 命令终止后再重新发起运行命令)。

启动没问题后运行如下命令进行验证fe:

        curl http://127.0.0.1:8050/api/bootstrap

其中8050就是前面配置文件中的http_port端口属性,正常打印结果如下:

4)BE配置

进入doris的be文件夹,随后的BE配置其实与FE配置类似,也是修改 priority_networks和端口号,这里我展示下我的配置信息,配置过程就不啰嗦了:

DORIS单节点部署_第3张图片

 这里我的8040也冲突了,所以修改成了8041,下图是我的验证流程:

DORIS单节点部署_第4张图片

5)BE启动 + open file问题解决

启动命令如下:

        ./bin/start_be.sh --daemon

 初次启动还是不建议加--daemon,因为这样在报错后我们可以第一时间观察到,等彻底没问题后再加--daemon后台启动也不迟(如果重新启动提示fe进程已经存在,则可以通过kill -9 命令终止后再重新发起运行命令)。

这里我们就会遇到一个open file文件句柄数过小的问题:

DORIS单节点部署_第5张图片

 正常来说我们初次启动be都会遇到该问题,因为默认文件句柄数是1024,另外虽然报错提示了用ulimit命令可以设置较大的文件句柄数,但是这是一种临时的解决方案,重启虚拟机后该值会被重置,所以如果想永久修改,可以通过如下三步设置:

第一步:vi /etc/profile
第二步:在末尾加入 ulimit –n 65535  ,随后保存文件
第三步:source /etc/profile

 再次启动则正常。

6)将BE加入FE

这一步需要在FE的客户端中通过一个命令进行添加,因为FE没有自己的客户端,但它支持通过mysql客户端进行连接,所以首先我们需要有个mysql客户端。mysql的安装部署我这里就不说了,(如果你没有mysql客户端,可以试试navicat或者dbeaver直连doris,连接方式与mysql连接类似,其中ip为fe安装地址,端口默认为9030,用户名为root,密码不用填,驱动就是mysql的driver驱动)。我连接doris的命令如下:

 mysql -uroot -P9030 -h node2

DORIS单节点部署_第6张图片

 进入客户端后执行:

ALTER SYSTEM ADD BACKEND "be_host_ip:heartbeat_service_port";

我的执行命令如下:

 7)web页面

至此我们FE、BE的安装就结束了,我们可以进行简单的存储查询验证了,另外doris有个web页面,里面可以查看fe、be以及配置还有日志相关的信息,它的访问地址默认为 fe_ip:http_port。

其中ip是fe节点的部署地址,http_port就是fe配置文件中的端口号:

DORIS单节点部署_第7张图片

登陆用户名默认为root,密码不用填。

参考文章:

快速开始 - Apache Doris

你可能感兴趣的:(大数据,—,OLAP引擎,doris)