基于Docker搭建cdh QuickStartVM过程全记录

系统环境

首先我们要准备系统环境,这里建议选择centos7及以上的版本。

安装docker

建议使用yum安装,可以减少很多麻烦。

yum install docker-io

镜像文件解压及导入

需要注意,cloudera发布的 quickstart docker镜像仅用于single模式,不支持CDH集群化。

Note: Cloudera does not support CDH cluster deployments using hosts in Docker containers.

如果想制作自己的CDH集群镜像,以后会更新一些文档

下载解压

下载cloudera公司制作的docker镜像
QuickStarts for CDH 5.13
并解压

tar vxf cloudera-quickstart-vm-5.13.0-0-beta-docker.tar.gz

导入

cd cloudera-quickstart-vm-5.13.0-0-beta-docker 
docker import cloudera-quickstart-vm-5.13.0-0-beta-docker.tar cdh:5.13.0

创建容器

启动

docker run --privileged=true -m 24576M --memory-swap -1 --hostname=quickstart.cloudera -p 8020:8020 -p 7180:7180 -p 21050:21050 -p 50070:50070 -p 50075:50075 -p 50010:50010 -p 50020:50020 -p 8890:8890  -p 60010:60010 -p 10002:10002 -p 25010:25010 -p 25020:25020 -p 18088:18088 -p 8088:8088 -p 19888:19888 -p 7187:7187 -p 11000:11000 -t -p 8888:8888 -i -d --name=mycdh  /usr/bin/docker-quickstart

说明:

  1. –privileged=true 基于容器root权限 (必须设置,不然执行启动脚本会出现 cannot open session 错误)
  2. -m 指定容器最大使用内存 (这里建议按照实际需求配置,但不要低于8G)
  3. –memory-swap 指定可使用的swap -1表示不限制
  4. –hostname 指定容器的主机名
  5. -p 指定一堆web portal的端口映射

启动CM

进入容器

docker exec -it mycdh /bin/bash 

执行

/home/cloudera/cloudera-manager --enterprise

如果最大内存或其他原因配置低于启动脚本的最低配置检查,需要加上 --force参数强制启动

[root@quickstart /]# /home/cloudera/cloudera-manager --enterprise
WARNING: It is highly recommended that you run Cloudera Enterprise in a VM with
at least 10 GB of RAM.
You can override these checks by passing in the --force option,
e.g:
sudo /home/cloudera/cloudera-manager --force

然后就可以通过访问物理机的ip的7180端口访问CM的管理页面

其他

日志文件在 /var/log目录下

你可能感兴趣的:(cdh,Spark,SQL原理及应用方法)