[Linux] Nutch 2.3.1+ Hbase + Hadoop + Solr 单机指南（三）

---

这是本指南的第三篇，本熊做这个的初衷就是刷刷小Y的好感度，但直到完成还是迷迷糊糊的。对于本熊而言读女人心简直堪比读算法导论，虽然两个都不太读得懂。本熊这段时间看到过关于交友平台的机器人的纪录片，让机器算法来搭讪自己潜在的伴侣，这是个很浪漫有趣的想法，会有人喜欢上这个像dull dull dull 的人类的机器人吗? I'm curious

---

纯初学者说明模式
本章节主讲实现本地模式

• Hbase的安装配置
• Hbase的简单语句
• 相对应的Hadoop配置
• SSH免密码登录

---

0.路径说明

本熊假设Hadoop的主目录为HadoopPath，Hbase的主目录为HbasePath

以下是本熊的解压位置：
HadoopPath的值就是 /usr/Dzy/hadoop-2.5.2
HbasePath的值就是 /usr/Dzy/hbase-0.98.8-hadoop2
NutchPath的值就是 /usr/Dzy/apache-nutch-2.3.1

各位可以按照自己的路径进行设置，本熊再次只为说明方便

---

1.Hbase安装与配置

1.1 Hbase配置修改

本熊只配置所需的最低设定了，各位可以参照官方文档尝试更多的有趣的设置

• 在HbasePath下，在/conf下修改hbase-env.sh，添加以下设置
  export JAVA_HOME=/usr/jdk/
• 在相同目录下修改hbase-site.xml，在标签中添加以下设置
  
  hbase.rootdir
  hdfs://localhost:9000/hbase
  
  
  hbase.cluster.distributed
  true
  

因为采用的是hdfs，hbase.rootdir代表hbase的主目录在hdfs的位置，hbase.cluster.distributed代表hbase的启动模式是本机还是集群

1.2 Hbase启动与简单查询

• 在HbasePath目录下，启动终端输入
  bash ./bin/start-hbase.sh
  开启Hbase的服务，此时在浏览器输入以下网址 http://localhost:60010/master-status 可以看见Hbase的homepage
  
  

  http://localhost:60010/master-status

这里可以看见Hbase数据库中所有的表和信息，除此之外还有一种 方式在终端内实现查看（适用于非图形界面的系统）

• 在HbasePath目录下，在终端输入
  ./bin/hbase shell
  启动Hbase的Shell模式，如下图

  
  
  

  Hbase Shell
• 可以实用简单的指令实现查询

1.  list
   

查看Hbase数据库内所有的表

2.  scan 'Table'
   

查看Hbase数据库内名为Table表的内容

以上是使用Nutch的Hbase的简单的基础语法和配置

---

2.Hadoop安装与配置

• 在HadoopPath下 /etc/hadoop目录中的修改core-site.xml内在标签中添加以下设置

    
        fs.default.name
        hdfs://localhost:9000
    
    
         dfs.replication
         1
    
    
          hadoop.tmp.dir
          /usr/tmp
     
  

这三个属性分别是hdfs的主机位置，再连接的次数与hadoop缓存存放位置

• 在相同目录下，将 mapred-site.xml.template 在当前目录复制黏贴，并重命名为mapred-site.xml 在标签中添加以下设置
  
  mapred.job.tracker
  localhost:9001
  
  此处代表执行map phase的tracker的主机，因为是本地伪集群，故写成这样

3.SSH免密码登录

采用ssh策略的原因为了hadoop中zookeeper的管理便利，我们所知远程访问主机采取的多为 用户名+密码 的模式，往往因为权限问题导致错误，本熊发现ssh策略就可以很好的回避这点

• 开启终端，输入以下指令，安装ssh
  sudo apt-get install openssh-server
• 在终端，输入以下指令，开启ssh服务
  service sshd restart
• 输入以下命令，制作ssh密钥上传到本机
  ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
  cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

• 可以用以下命令检测是否成功，成功的话会显示系统版本及登录时间
  ssh localhost

  
  
  

  登录成功

4.Hadoop的启动

启动Hadoop

• 在HadoopPath下，在终端输入以下命令，执行namenode初始化

    bin/hadoop  namenode -format
  

• 在终端输入下面的命令，成功后可以下图

    bash ./sbin/start-all.sh
  

hadoop启动成功

我们可以清楚的看出hadoop的执行过程，dfs与yarn，hadoop成功启动

• 有兴趣的看官们，本熊强烈推荐可以去试试hadoop自带的WordCount程序来体验一把hadoop，具体的部分可以参照hadoop官网的说明，十分有助于理解hadoop的工作机制哦

---

第三期完

写到现在突然发现本熊和小Y，一个缺智商，一个缺情商。形象的说宅若久时天然呆,呆到深处自然萌 又宅又呆的小Y看来只有走仓鼠的蠢萌路线了，本熊表示很心痛。玩笑话就说到这里，本熊又宅又呆已有二十余载，突悟还是要学学年轻人该有的生活方式，不知道各位的年轻时是如何打发自己的，本熊也想学学

      (。・д・。)      (　・ˍ・)　(・ˍ・*)　    (・－・。)

相关内容
[Linux] Nutch 2.3.1+ Hbase + Hadoop + Solr 单机指南（一）
[Linux] Nutch 2.3.1+ Hbase + Hadoop + Solr 单机指南（二）
[Linux] Nutch 2.3.1+ Hbase + Hadoop + Solr 单机指南（三）
[Linux] Nutch 2.3.1+ Hbase + Hadoop + Solr 单机指南（四）