hadoop集群搭建详细步骤——系统准备

所需工具:VMwhere虚拟机、hadoop-2.7.7.tar.gz、jdk-8u201-linux-x64.tar.gz、CentOS-7-x86_64-DVD-1708.iso(具体的版本随意)、xshell、xftp
该集群搭建步骤适用于:个人电脑上使用VMwhere的NAT模式搭建hadoop集群

本文主要是讲述虚拟机克隆和网络环境配置的过程,hadoop集群搭建可见于下一篇博客点击

一、虚拟机创建
   1、右击文件选择新建虚拟机,选择典型安装
   2、修改路径选择centos镜像
   3、定义虚拟机的名称和存储路径
   4、指定磁盘容量和存储方式(磁盘内存默认就可以,存储方式选择单个存储)
   5、自定义硬件
     内存和处理器根据个人电脑选择
      网络适配器选择NAT模式,并生成MAC地址 重点
hadoop集群搭建详细步骤——系统准备_第1张图片
  6、点击开启创建的虚拟机,等待加载(第一次时间比较长),选择中文安装AA
  7、确定软件安装位置(如果不需要更改位置的话点进去退出来就可以)
  8、设置网络和主机名,点击开始安装
hadoop集群搭建详细步骤——系统准备_第2张图片
  9、点击ROOT密码并设置 虚拟机root账户的登陆密码

二、虚拟机网络设置
   1、 查看虚拟机网络设置,记录网段和网关
     (1)、点击编辑下的虚拟网络编辑器
     (2)、点击右下角更改设置
     (3)、点击NAT模式下的NAT设置查看并记录网关
hadoop集群搭建详细步骤——系统准备_第3张图片
     (4)、点击NAT模式下的DHCP设置查看并记录网段(起始IP地址和结束IP地址)
hadoop集群搭建详细步骤——系统准备_第4张图片
  2、禁用IPV6
     (1)、vi /etc/default/grub 编辑 系统启动项
     最后一行添加ipv6.disable=1 并保存
     (2)、grub2-mkconfig -o /boot/grub2/grub.cfg 重新生成这个文件
     (3)、 reboot 重启虚拟机使配置生效
   3、分配静态IP地址
     (1)、 vi /etc/sysconfig/network-scripts/ifcfg-网卡名(默认ens33)
         BOOTPROTO=static
         IPADDR=网段内静态IP(网段之内)
         NETMASK=255.255.255.0
         GATEWAY=记录的网关地址
         DNS1=114.114.114.114 (域名解析)
         ONBOOT=yes
hadoop集群搭建详细步骤——系统准备_第5张图片
     (2)、 sevice network restart 重启网络服务 使配置生效
     (3)、ping www.baidu.com 虚拟机网络测试
     (4)、yum install nano 下载 nano组件
  4、添加用户,设置密码
     (1)、 adduser bda 添加用户
         passwd bda 设置bda账户的密码
        之后reboot用bda登录
     (2)、创建目录/opt下:software, modules, data, tools
         mkdir /opt/data …
         sudo chown -R bda:bda /opt/* 更改所有权
  5,JDK安装
     (1)、如果有,卸载自带的Open-JDK
        ps -ef|grep java 查询是否有java进程
        rpm -qa|grep java 删除
        rpm -e --nodeps 各 个 名 字
     (2)、XSHELL连接
         新建xshell连接,主机IP选择上面设置的网络静态IP(IPADDR)
     (3)、JDK版本的确定和上传
         JDK版本根据hadoop版本要求确定,此处用7u67
        使用xftp将JDK压缩包和hadoop压缩包上传到/opt/software目录下
       (如果文件上传失败,可能是源文件或者目标目录的权限问题,注意修改下就可以)
     (4)、tar -zxf 目录/文件名 -C /opt/modules 解压缩到/opt/moduls下
   6、配置环境变量JAVA_HOME
     (1)、 su root 切换到root用户,不然权限不够
     (2)、nano /etc/profile 编辑 /etc/profile 文件
     (3)、最后一行添加
         #JAVA_HOME
        export JAVA_HOME=/opt/modules/jdk1.8.0_201
        export PATH= P A T H : PATH: PATH:JAVA_HOME/bin
     (4)、 source /etc/pfofile 重新加载使文件生效
     (5)、 java/javac 测试环境变量配置

你可能感兴趣的:(hadoop集群,大数据)